连载中 15/20

超时治理:全链路的时间预算

2026-07-14 · 2191 阅读 · 0 评论 · 0 赞

最危险的等待

没设超时的调用是最危险的等待:HTTP 客户端不配超时,默认可能死等几分钟——线程钉死在 socket 上,舱壁的池子被一寸寸抽干,第 1 篇雪崩链的起点就是它。第一条铁律:任何跨网络的调用必须有超时,没有例外。

超时的三层

一个远程调用的时间拆成三段,各管各的:连接超时——建立 TCP 连接的等待,正常几十毫秒,设 500ms~1s 足够,连不上说明下游挂了或网络断了,久等无意义;读超时——连接建立后等响应的时间,按下游 P99 设,这是主战场;整体超时——含重试在内的总预算,防止「单次 800ms × 重试 3 次」把账烧穿。

预算要层层对齐

超时不是单点的数字,是全链路的账本,自顶向下对齐:

用户/网关        预算 3s
 └─ 订单服务     预算 2s
     ├─ 会员 RPC   预算 800ms
     └─ 库存 RPC   预算 500ms
         └─ 库存 DB  预算 300ms

两条对齐规则:上游超时 ≥ 下游耗时 + 余量——订单服务预算 2s,里面两个 RPC 加起来最多 1.3s,留 700ms 给自己的逻辑与 GC;重试要扣预算——库存 RPC 打算重试 2 次,单次 500ms,总预算至少 1.5s,上游的 2s 里装不装得下,要算账。

倒挂是最常见的病:网关给 1s、订单服务给 2s——订单哪怕按时返回,网关也早走了,订单在白算;更糟的是下游超时 3s、上游超时 2s——下游每次都「成功完成」一个没人要的计算,纯属烧 CPU。

超时之后做什么

超时本身不是终点,要和前几篇的机制联动:超时计入熔断统计(慢调用的分子),反复超时自然触发熔断;上游超时后尽量取消下游任务——把调用上下文传下去,客户端断开时下游能感知并中止,别让下游白白算完一份没人等的报表。

HttpClient client = HttpClient.newBuilder()
        .connectTimeout(Duration.ofMillis(500))   // 建连 500ms
        .build();
HttpRequest req = HttpRequest.newBuilder(uri)
        .timeout(Duration.ofMillis(800))          // 读超时 800ms(按 P99 定)
        .build();
// 打算重试 2 次的话,总预算 = 3 × 800ms + 退避间隔,上游要装得下

超时的坑

四个高频坑:默认值陷阱——不配置就是无限等或 20s,上线前全部显式设置;一刀切——大报表和心跳接口同一个超时,按接口分级配置;只设了 HTTP——MyBatis 的 statementTimeout、Redis 客户端、MQ 发送超时,一处都不能漏;预算从不复核——下游改造后 RT 变了,上游超时还停在去年的数,压测时顺手校准。

超时给等待封了顶,重试给失败加了保险,但这两兄弟凑一起就危险——下游正病着,上游齐刷刷重试三次,等于补三刀。下篇聊重试风暴:好心如何办坏事。

☕
503

10 年全栈工程师 · 503咖啡馆主理人

#超时#连接超时#读超时#超时预算#超时倒挂#重试预算

评论 (0)

热门推荐

连载中 11/22

主从搭建实操:从零配出一主两从

光讲原理不过瘾?手把手搭一主两从:my.cnf 六个参数、复制账号、GTID、CHANGE REPLICATION SOURCE TO、SHOW REPLICA STATUS 验收,附翻车排查清单。

#MySQL#主从复制#GTID#主从搭建#高可用
2026-05-07 · 10101 阅读 · 0 评论 · 0 赞
连载中 16/22

连接池:HikariCP 参数与连接风暴

连接池不是越大越好:8 核机器配 1000 连接反而更慢的数学原理,HikariCP 四个必调参数,maxLifetime 与 wait_timeout 的隐形陷阱。

#MySQL#连接池#HikariCP#maxLifetime#连接风暴
2026-05-10 · 9873 阅读 · 0 评论 · 0 赞
连载中 4/16

缓存穿透:恶意 ID 打穿 MySQL 的四道防线

请求的数据在缓存和数据库里都不存在时,缓存形同虚设。聊聊参数校验、空值缓存、布隆过滤器、限流熔断四道防线的原理与组合打法。

#Redis#缓存穿透#布隆过滤器#高可用
2026-05-16 · 9294 阅读 · 21 评论 · 287 赞