连载中 12/20

消息积压:十万条消息堆着怎么办

2026-08-05 · 2124 阅读 · 0 评论 · 0 赞

老王的值班夜

周日晚上八点,告警响了:ORDER_PAID 队列积压 50 万条,且还在涨。积分服务消费 TPS 从两千掉到三百,用户开始反馈「下单了没积分」。老王深吸一口气,先给自己立了条规矩:先诊断,再动手——积压时乱开药方比病更危险。

第一步:诊断积压的病因

病因特征药方
生产激增发送 TPS 陡涨(大促/活动/上游重试风暴)扩消费力 + 上游限流
消费力下降消费 TPS 掉了,下游接口变慢/报错修下游,这是主战场
毒消息卡队个别队列位点不动,反复重试隔离毒消息(第 11 篇 SOP)

老王一看监控:生产 TPS 正常,消费 TPS 腰斩,积分库的慢查询飙升——病根在下游数据库,不是消息变多了,是干活的人虚了。

第二步:止血三板斧

第一斧:加机器,但有天花板。扩消费者的第一性原理要记牢:消费者数量不能超过队列数。8 个队列最多 8 个消费者有效干活,第 9 个只能干瞪眼。队列不够就先扩队列(RocketMQ 控制台改 Topic 队列数;Kafka 扩 partition),再同步加消费者。Kafka 扩 partition 有个副作用要掂量:key 哈希的映射关系变了,顺序消息的顺序保证会被打破。

第二斧:单机榨干。来不及加机器时,先提单机消费并发:调大消费线程池、调大批量拉取条数(一次拉 100 条批量处理)、把消费逻辑里的串行 RPC 改并行。但下游是瓶颈时慎用——消费线程加得越猛,下游死得越快,水位反而涨得越凶。

第三斧:降级非核心动作。消费逻辑里排着优先级:发积分是核心,写消费日志、发短信是次要。紧急状态下,次要动作改成先落任务表后补执行,消费 TPS 立刻翻倍。降级开关平时就要备好,现场写来不及。

第三步:积压太深时的奇兵——紧急转储

如果积压是百万级、按现有消费力要消化一天,常规手段都太慢。上奇兵:

1 写一个「搬运工」消费者:不做业务,只把消息快速转发到新 Topic
   (新 Topic 队列数拉到 100 个),单条转发耗时极低,积压迅速清空
2 新 Topic 上拉起 100 个真正的业务消费者并行消化
3 修完主故障,把新 Topic 剩余消息重放回主 Topic,恢复正常链路

转储的本质是把「一条队列的消费并行度」瞬间放大百倍。代价是消息经历了额外一跳,全程要盯紧重复与丢失——重放和搬运都要幂等兜底。

最后手段:跳过

业务上确认这批消息可以放弃(比如过期的库存刷新事件),可以把消费位点直接重置到最新,跳过堆积段。注意:跳过就是丢消息,执行前把跳过的消息落一份到补偿库,事后逐条对账补发。跳过是创可贴,不是治疗方案。

事后:让下一次积压不来

  • 积压告警分级:水位超 10 分钟消费量告警,超 1 小时消费量升级 call 人;
  • 容量留余量:消费能力按峰值流量的 2 倍压测预留,队列数提前扩够;
  • 下游保护:慢查询治理、接口熔断,下游不塌消费就不塌;
  • 预案演练:转储脚本、跳过工具、降级开关提前备好并演练,值班手册写到页。

小结

积压处置的顺序:先诊断病因,再止血(扩容、榨单机、降级),深的上转储,绝境才跳过。每个动作的适用边界和副作用都要烂熟——现场没有时间给你翻文档。

可靠性三部曲(不丢、不重、有序)加上运维三课(重试、死信、积压),MQ 的「用」讲完了。下一篇开始「为什么」:Kafka 凭什么每秒百万条——顺序写、零拷贝、批量压缩三板斧的原理。

☕
503

10 年全栈工程师 · 503咖啡馆主理人

#消息队列#消息积压#紧急扩容#转储#降级

评论 (0)

热门推荐

连载中 11/22

主从搭建实操:从零配出一主两从

光讲原理不过瘾?手把手搭一主两从:my.cnf 六个参数、复制账号、GTID、CHANGE REPLICATION SOURCE TO、SHOW REPLICA STATUS 验收,附翻车排查清单。

#MySQL#主从复制#GTID#主从搭建#高可用
2026-05-07 · 10101 阅读 · 0 评论 · 0 赞
连载中 16/22

连接池:HikariCP 参数与连接风暴

连接池不是越大越好:8 核机器配 1000 连接反而更慢的数学原理,HikariCP 四个必调参数,maxLifetime 与 wait_timeout 的隐形陷阱。

#MySQL#连接池#HikariCP#maxLifetime#连接风暴
2026-05-10 · 9872 阅读 · 0 评论 · 0 赞
连载中 4/16

缓存穿透:恶意 ID 打穿 MySQL 的四道防线

请求的数据在缓存和数据库里都不存在时,缓存形同虚设。聊聊参数校验、空值缓存、布隆过滤器、限流熔断四道防线的原理与组合打法。

#Redis#缓存穿透#布隆过滤器#高可用
2026-05-16 · 9293 阅读 · 21 评论 · 287 赞