Rabbit测试及其方案

转载:https://www.2cto.com/kf/201609/548190.html

Qos:举例说明:Qos=2如果消费者A 2个消息没有回应,则MQ不会再往消费者A中发消息,直到收到消息确认后才会再次发送。

Ack:消息确认。

方案1:启动一个生产者,无消费者。

测试结果:每秒生产大约6250条消息,磁盘写入是6250/s

当消息的堆积量达到40W以上时,每秒进入队列的速率就会降到4500~5000/s之间

   

方案2:启动三个生产者,无消费者。

   

测试结果:每秒生产大约6500条消息,磁盘写入是6500/s

   

方案3:启动10个生产者,无消费者

   

测试结果:每秒生产大约7300条消息,磁盘写入是7300/s

   

方案4:启动20个生产者,无消费者

   

测试结果:生产9000qps/s ,启动30个生成者是8500,经过反复测试最终发现20~25个生产者效率最高。

   

方案5: 启动无生产者,1个消费者,Qos0,默认ack接收到消息马上返回。

测试结果:每秒消费8000Qps

   

方案6:启动无生产者,1个消费者,Qos1,默认应答接收到消息马上返回。

测试结果:每秒消费310Qps;

   

方案7:启动无生产者,1个消费者,Qos1,默认不应答接收到消息马上返回

   

测试结果:每秒消费11500Qps;

   

方案8:启动无生产者,一个消费者,Qos10,默认ack接收到消息马上返回。

   

   

方案9:启动1个生产者,1个消费者,Qos10,默认Ack,接收到消息后马上返回。

   

测试结果:生成4000Qps/s消费1000Qps/s

   

方案10:启动1个生成者,1个消费者,Qos10,默认Ack,接收到消息休眠10ms

   

测试结果:生产4500Qps/s消费10Qps/s

   

方案11:启动1个生产者,1个连接,10个消费者,Qos100,默认Ack,接收到消息休眠10ms

   

测试结果:生产5000qps/s消费500qps/s

这说明一味的增加channel开启consumer应该是有瓶颈的,随着consumer的增加,消费效率应该也不会有太大的增加,接着测试

   

方案12:启动一个生产者,1个连接,30个消费者,Qos100,默认Ack,接收到消息休眠10ms

测试结果:生产4500qps/s消费450qps/s

从结果来看,consumer增加了三倍,但是消费速率基本在1400左右,感觉要到瓶颈了.后面我尝试过consumer_size=50,也是这个值,直到consumer_size=17的时候就是500/s,再增加consumer也不会增加效率了.

从数据上来看感觉是一个连接里面channel有一个上限值,再多也处理不完了,那可以考虑尝试增加connection来试试是否能够增加消费能力

   

方案13:启动1个生产者,3个连接,每个连接里面创建17个消费者,Qos100,默认Ack,接收到消息休眠10ms,用来模拟业务处理时间

   

测试结果:生产4320qps/s消费1500qps/s

方案14:启动一个生产者,10个连接,每个连接里面创建17个消费者,Qos100,默认Ack,接收到消息休眠10ms,用来模拟业务处理时间

   

总结

通过以上的测试,我们基本上得出以下几个结论:


1.
生产者生产消息过快,无论是否有消费者,都会触发流控,不同的是流控强度随消费者个数加强.


2.
一旦有消费者连接,就会对生产者的消息生产效率产生影响(在触发流控之后)


3.
在每个连接里面在创建相应数量的consumer,可以增加消费能力,但是也是有上限的,我的 测试中上限是17


4.
创建多个连接,并且每个每个连接里面consumer设置到上限数量,可以进一步增加消费能力


5.
在消息堆积的情况下,消费者数量与生产者的生产效率成反比


6.
在没有消息堆积的情况下,设置得当的话,基本上可以做到生产与消费同步(测试的最大值为13000+/s,加大连接数可能还会提高)

原文地址:https://www.cnblogs.com/ligao/p/9014964.html