目录
在前面的文章中,我们介绍了mq如何防消息丢失,从消息从生产者发送到Broker的Exchange,再到Queue,再Deliver到消费者,各个环节都有可能会丢失消息。
这里我们主要模拟一下两个场景:消息未持久化丢失和消费时消息丢失。
生产者发送了一条未持久化消息,此时消息未被消费,那这条消息存储在内存中

此时重启MQ,那这条消息就会丢失掉。
若消费时使用自动确认机制,产生了2条消息,第一条消息由于处理时间比较长,第二条消息已经拉取到了本地BlockingQueue中,再第一条消息处理的过程中,系统宕机了,第二条消息还没来的及消费,就丢失了。
参考 RabbitMQ初步到精通-第五章-RabbitMQ之消息防丢失_Mr-昊哥的博客-CSDN博客
mq消费既支持pull的形式也支持push的形式。pull形式,是靠客户端一直拉取服务端的消息,而客户端并不知道什么时候会有消息进入到队列中,会一直取消息,造成额外的系统开销,效率也不高。
而push形式,是一般我们采用的方式。将监听函数注册到服务中,mqBroker收到消息进行投递,再调用监听函数方法消费消息。
代码中使用:
- for (int i = 0; i < 2; i++) {
- GetResponse response = channel.basicGet(QUEUE_NAME, true);
- System.out.println("消费:" + new String(response.getBody()));
- }
抓包情况:
都是先发出请求,再将结果返回。

代码:
- DefaultConsumer consumer = new DefaultConsumer(channel) {
- @SneakyThrows
- @Override
- public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException {
- Thread.sleep(1000);
- System.out.println("接收到消息:" + new String(body, "UTF-8"));
- channel.basicAck(envelope.getDeliveryTag(), false);
- }
- };
-
- channel.basicConsume(QUEUE_NAME, false, consumer);
抓包情况:
服务端将消息推送过来:

从生产端即产生了重复的情况,多由于系统bug,或系统间调用造成重试等原因,推出了重复的消息。
消费使用手动ACK模式,两个消费者,消费者1,虽然消费到了消息,由于处理时间长,未能及时ACK,这时候系统宕机,mq会将NACK状态的消息变为Ready状态,又推送给了消费者2 ,这样就造成了,同一条消息 同时在消费者1和消费者2都消费到了。
生产者:
- public class RepeatProducer {
-
- public static final String QUEUE_NAME = "work";
-
- //生产者
- public static void main(String[] args) throws Exception {
- //1、获取connection
- Connection connection = RabbitCommonConfig.getConnection();
- //2、创建channel
- Channel channel = connection.createChannel();
-
- for (int i = 1; i <= 3; i++) {
- sendMsg(channel, i);
- Thread.sleep(1000);
- }
- //4、关闭管道和连接
- channel.close();
- connection.close();
- }
-
- private static void sendMsg(Channel channel, int k) throws IOException {
- //3、发送消息到exchange
- String msg = "hello work :" + k;
- channel.basicPublish("", QUEUE_NAME, null, msg.getBytes());
- System.out.println("生产者发布消息成功!" + k);
- }
-
- }
消费者1:
- public class RepeatConsumer1 {
- public static final String QUEUE_NAME = "work";
-
- //消费者
- public static void main(String[] args) throws Exception {
- //1、获取连对象、
- Connection connection = RabbitCommonConfig.getConnection();
- //2、创建channel
- Channel channel = connection.createChannel();
-
- channel.basicQos(1);
- //3、创建队列
- channel.queueDeclare(QUEUE_NAME, true, false, false, null);
-
- //4.开启监听Queue
- DefaultConsumer consumer = new DefaultConsumer(channel) {
- @Override
- public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException {
- System.out.println("Consumer1 接收到消息:" + new String(body, "UTF-8"));
- try {
- Thread.sleep(1000 * 60);
- } catch (InterruptedException e) {
- e.printStackTrace();
- }
- //手动ACK(接收信息,指定是否批量操作)
- channel.basicAck(envelope.getDeliveryTag(), false);
- }
- };
-
- //5.关闭自动ACK
- channel.basicConsume("work", false, consumer);
- System.out.println("消费者1开始监听队列");
-
- //6、键盘录入,让程序不结束!
- System.in.read();
-
- //7、释放资源
- channel.close();
- connection.close();
- }
-
-
- }
消费者2:
- public class RepeatConsumer2 {
-
- public static final String QUEUE_NAME = "work";
-
- //消费者
- public static void main(String[] args) throws Exception {
- //1、获取连对象、
- Connection connection = RabbitCommonConfig.getConnection();
- //2、创建channel
- Channel channel = connection.createChannel();
-
- channel.basicQos(1);
- //3、创建队列
- channel.queueDeclare(QUEUE_NAME, true, false, false, null);
-
- //4.开启监听Queue
- DefaultConsumer consumer = new DefaultConsumer(channel) {
- @Override
- public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException {
- System.out.println("Consumer2 接收到消息:" + new String(body, "UTF-8"));
- try {
- Thread.sleep(1000);
- } catch (InterruptedException e) {
- e.printStackTrace();
- }
- //手动ACK(接收信息,指定是否批量操作)
- channel.basicAck(envelope.getDeliveryTag(), false);
- }
- };
- //5.关闭自动ACK
- channel.basicConsume(QUEUE_NAME, false, consumer);
- System.out.println("消费者2开始监听队列");
-
- //6、键盘录入,让程序不结束!
- System.in.read();
-
- //7、释放资源
- channel.close();
- connection.close();
- }
-
- }
结果:
第一次运行:
消费者1开始监听队列
Consumer1 接收到消息:hello work :1
消费者2开始监听队列
Consumer2 接收到消息:hello work :2
Consumer2 接收到消息:hello work :3
运行过程中停掉消费者1
消费者2开始监听队列
Consumer2 接收到消息:hello work :2
Consumer2 接收到消息:hello work :3
Consumer2 接收到消息:hello work :1
消费时引入幂等机制,使用分布式锁,数据库唯一索引等控制。
接触到prefetch分别会在java和spring 客户端中出现,只有需要手动ACK的时候才起作用。
设置了此值,会控制mq服务端给客户端推送的消息数量。
例如设置15,mq堆积了大量消息的情况下,会首次推送给 客户端15个消息,若消息消费慢的情况,mq的服务端会始终保证15个unack的消息的前提下,给客户端推送。
1.java amqp client
- channel.basicQos(15);
- //开启手动确认
- channel.basicConsume(QUEUE_NAME, false, consumer);
2. spring 配置中
- spring.rabbitmq.listener.simple.acknowledge-mode = manual
- spring.rabbitmq.listener.simple.prefetch = 15
spring若没进行配置默认250
- private volatile int prefetchCount = DEFAULT_PREFETCH_COUNT;
- public static final int DEFAULT_PREFETCH_COUNT = 250;