消息服务中如何确保消息至少被消费一次

简介: 消息服务中如何确保消息至少被消费一次

对消息服务需要了解的朋友,可以移步:

  1. 聊聊mq的使用场景
  2. 聊聊业务系统中投递消息到mq的几种方式
  3. 谈谈mq消息消费的几种方式

本章讨论主题

  1. 如何确保消息至少消费一次,确保消费者最大程度消费成功

消费者消费消息有2中方式:

  1. push方式
    消息服务接收到消息之后,主动将消息推送给消费者消费
  2. pull方式
    消费者定时从消息服务中拉取消息进行消费

下面我们将讨论2中方式中如何确保消息至少被消费一次。

push模式

消费的过程:

  1. 消息服务查询待消费的消息列表
  2. 轮询待消息列表
  3. 调用消费者
  4. 消费者收到消费请求,执行业务处理,将处理结果返回给消息服务
  5. 消息服务接收到消费成功的信息,将消息状态置为消费成功状态
  6. 继续消费下一条消息

探讨一下上面需要考虑的问题:

若消息一直消费失败如何处理?

先说一下影响:

  1. 消息被阻塞
    消息如果一直消费失败,消息服务会不断调用消费者进行消费,会阻塞其他消息的消费,直接影响到业务的正常进行.

消费失败的原因:

  1. 代码问题
    这种情况不管尝试多少次,消息都会消费失败,需要人工介入修复bug,这个可以依靠监控系统发现bug,同时开发进行修复。
  2. 系统运行异常如调用超时、网络问题等一些不可控的因素。产生这种错误,继续重试,最终会处理成功。

此处咱们只用讨论消息服务中重试机制如何设计?

系统异常情况下,可能过一段时间,系统恢复了,此时去重试,消费也就成功了。

所以我们对于消费失败的消息采用延迟处理的方式,可以这么实现:

消息中增加几个字段用于重试:next_dispose_time【下次处理时间】、max_failure【最大允许失败次数】、failure【当前失败次数】,消息入库时:next_dispose_time=需消费的时间,max_failure = 运行最大失败次数, failure=0;

当消费失败时,处理过程:
计算下次处理时间(next_dispose_time),可以在当前时间上面做指数递增,比如根据失败次数依次在当前时间上递增2的failure次方秒,如:
第1次失败:当前时间 + 2秒
第2次失败:当前时间 + 4秒
第3次失败:当前时间 + 8秒
第4次失败:当前时间 + 16秒
.......
第n次失败:当前时间 + 2的n次方秒

failure++

消息服务查询待消费的消息也需要做调整:
select * from 消息表 where next_dispose_time<=当前时间 and failure此时能够最大程度保证消息最少消费成功一次。

pull方式

这种会复杂一些,为何会复杂一些,咱们先看一下常规的流程:

  1. 消费者从消息服务中拉取消息
  2. 本地进行处理
  3. 从消息服务中删除此消息
  4. 继续拉取下一条进行处理

如果本地一直处理失败,那么后面拉取到的都是同一条消息,这条消息直接阻塞后续消息的消费,这种情况如何解?

咱们先分析一下出现这种问题的后果及原因:

  1. 后果:消息被阻塞,业务无法正常运行
  2. 原因:代码问题或其他异常
  3. 确保代码没问题,可以解决上面问题,及时性不够高,线上要考虑系统的容错能力。

遇到这种问题还是挺严重了,业务方都是无法接受的,一条消息消费失败,会影响到其他所有消息的消费,这个我们还是得想办法解决,可以这样:

  1. 消费者拉取消息
  2. 落地到本地
  3. 从消息服务中删除此消息
  4. 异步去消费本地落地的消息

消息先落地,然后异步处理,本地需要有个补偿的job,去处理本地消费失败的消息,这个可以参考push方式消费的过程。

对消息服务感兴趣的,可以加群讨论
_

相关实践学习
RocketMQ一站式入门使用
从源码编译、部署broker、部署namesrv,使用java客户端首发消息等一站式入门RocketMQ。
消息队列 MNS 入门课程
1、消息队列MNS简介 本节课介绍消息队列的MNS的基础概念 2、消息队列MNS特性 本节课介绍消息队列的MNS的主要特性 3、MNS的最佳实践及场景应用 本节课介绍消息队列的MNS的最佳实践及场景应用案例 4、手把手系列:消息队列MNS实操讲 本节课介绍消息队列的MNS的实际操作演示 5、动手实验:基于MNS,0基础轻松构建 Web Client 本节课带您一起基于MNS,0基础轻松构建 Web Client
相关文章
|
4月前
|
消息中间件
【面试问题】如何确保消息正确地发送至 RabbitMQ? 如何确保消息接收方消费了消息?
【1月更文挑战第27天】【面试问题】如何确保消息正确地发送至 RabbitMQ? 如何确保消息接收方消费了消息?
|
4月前
|
消息中间件 存储 Java
MQ怎么确保消息不丢失
MQ怎么确保消息不丢失
|
10月前
|
消息中间件 NoSQL Redis
消息重复消费的问题
消息重复消费的问题
|
10月前
|
负载均衡 网络性能优化
EMQ如何保证消息不重复消费?
EMQ(Erlang MQTT Broker)通过以下机制来保证消息不重复消费
477 2
|
9月前
|
消息中间件 NoSQL Kafka
如何保证消息不被重复消费?或者说,如何保证消息消费的幂等性?
为了提高应用程序的性能和可扩展性,很多应用程序开始采用消息队列(MQ)来处理消息。 MQ 可以将消息异步地发送到目的地,从而实现解耦、异步处理和流量控制等功能。 但是,MQ 也带来了一些问题,如消息重复消费和消息消费的幂等性问题。 本文将介绍 MQ 如何保证消息不被重复消费,并讨论如何保证消息消费的幂等性。
|
11月前
|
消息中间件 存储 NoSQL
该如何保证消息不被重复消费
该如何保证消息不被重复消费
121 0
|
消息中间件 存储 网络协议
大厂都是如何处理重复消息的?
消息消费失败,很多框架会自动执行重试,而重试就产生了重复消息。 MQTT协议给出三种传递消息时能够提供的
226 0
|
消息中间件 存储 算法
多类型业务消息专题-定时消息| 学习笔记
快速学习多类型业务消息专题-定时消息
138 0
多类型业务消息专题-定时消息| 学习笔记
|
消息中间件 运维 监控
多类型业务消息专题-普通消息 | 学习笔记(一)
快速学习多类型业务消息专题-普通消息
140 0
 多类型业务消息专题-普通消息 | 学习笔记(一)
|
消息中间件 存储 运维
多类型业务消息专题-普通消息 | 学习笔记(二)
快速学习多类型业务消息专题-普通消息
99 0
多类型业务消息专题-普通消息 | 学习笔记(二)