几年前我接手过一个慢到不能忍的消息系统。Kafka 集群日处理 500 亿条消息QPS 峰值 120 万。但是隔三差五出现数据延迟积压有时候一条消息从生产到消费竟然要等几十秒。查了一周发现跟 Kafka 本身关系不大。问题是使用姿势不对——不懂 ISR 机制就敢上生产的人太多了。今天这篇把 Kafka 最核心的两个设计——副本机制和 ISR——彻底讲明白。不是什么是副本那种入门而是深入到它能做到快又可靠的根本原因。一、副本为什么是副本而不是备份很多人把 Kafka 的副本理解成数据备份——怕数据丢了多存几份。这个理解不能说错但很片面。Kafka 的副本设计本质是为了可用性而不是持久性。持久性靠的是刷盘策略和日志结构。副本解决的是当某个节点挂了系统还能正常服务的问题。副本的两张脸Kafka 的每个分区有多个副本Replica但它们的地位不对等。Leader Replica——读写都走它。生产者和消费者默认只跟 Leader 交互。Follower Replica——只从 Leader 拉数据默认不服务外部请求。存在的意义是Leader 挂了就顶上。这就是 Kafka 副本的核心设计哲学默认读写不分离但故障转移有备选。注Kafka 2.4 引入了 KIP-392允许消费者从 Follower 读取数据通过replica.selector.class配置自定义副本选择器但这个功能是可选的、默认关闭。大多数场景下从 Follower 读会读到滞后数据一致性风险大于性能收益。为什么默认不做读写分离很多系统比如 MySQL是读写分离的——Leader 负责写Follower 负责读。Kafka 默认不这样做原因有两个1.消息队列的读跟数据库的读不一样。数据库的读是随机读分散在不同的数据上。消息队列的读是顺序读Consumer 从特定 offset 开始顺序拉取。如果从 Follower 读Follower 的数据可能还没追上 LeaderConsumer 会读到不完整的数据。2.Kafka 追求的是顺序一致性。所有读写都走 Leader保证了严格的顺序。从 Follower 读的话顺序一致性就很难保证了。这个设计不是没有代价的。瓶颈集中在 Leader 上——所有读写压力都在一个节点。但 Kafka 用分区解决了这个问题100 个分区就有 100 个 Leader分散在不同的 Broker 上。所以从整个集群看负载是均匀分布的。二、ISRKafka 高可靠的真正秘密说完了副本聊聊 ISR。ISRIn-Sync Replicas是 Kafka 副本机制里最精妙的设计。它解决了一个非常实际的问题等所有副本都同步完再确认写入太慢了。不等的话又可能丢数据。ISR 的答案是选一个足够的副本数做为确认标准。ISR 到底是什么ISR 是一个动态列表里面是所有跟得上 Leader 节奏的副本。Kafka 的 ISR 维护逻辑在 0.10 版本经历了一次重要变化从基于 offset 差值replica.lag.max改为纯时间判定。// Kafka 3.x ISR 维护逻辑简化自 ReplicaManager.scala // 核心判断Follower 的 lastCaughtUpTimeMs 是否在超时窗口内 val now time.milliseconds() val currentISR replicas.filter { replica replica.log.isDefined (now - replica.lastCaughtUpTimeMs) replicaLagTimeMaxMs }每个 Follower 副本有一个lastCaughtUpTimeMs字段记录它最后一次跟 Leader 持平的时间。只要这个时间距离现在不超过replica.lag.time.max.ms默认 30 秒生产环境常配置为 10 秒它就在 ISR 里。超过这个时间没跟上就被踢出 ISR。ISR ACKS 的配合Kafka 的生产者有一个acks参数控制写操作的确认条件acks0发送完就认为成功了。最快的模式但可能丢数据。acks1Leader 写完就认为成功了。权衡模式Leader 挂了会丢数据。acksallISR 里所有副本都写完才算成功。最安全的模式。重点来了acksall不是所有副本都写完而是ISR 里所有副本都写完。假设你的副本数是 3ISR 里只有 2 个副本Leader 一个 Follower那acksall只等这 2 个确认就返回了。这个设计的高明之处在于ISR 保证的是当前活跃的副本都写完了而不是所有存在的副本都写完了。如果某个 Follower 已经掉队了不在 ISR 里Kafka 不等它。因为等一个掉队的副本会拖慢整个系统的写入速度而且这个掉队的副本可能已经接近挂了——等它等于白等。ISR 机制的本质是在可靠性和可用性之间做动态平衡。掉队的副本不配被等。min.insync.replicas兜底的门槛acksall配合min.insync.replicas才是完整的安全方案。min.insync.replicas是用来兜底的。它规定了 ISR 至少要有多少个副本写入才能正常进行。# 副本数 3 的典型配置 min.insync.replicas2 acksall当 ISR 中的副本数低于min.insync.replicas时生产者的写入请求会被拒绝NotEnoughReplicasException。这个配置的意义很明确如果可用的副本太少宁可拒绝写入也不要让数据在极端脆弱的状态下被写进去。一个真实的生产事故说一个真实的案例。某团队配置了replication.factor3、acksall没有配置min.insync.replicas。一台 Broker 挂了2 个副本在线系统正常运行。然后第二台 Broker 发生了 Full GC那个 Broker 上的 Follower 副本长时间无法从 Leader 拉取数据被踢出了 ISR。ISR 降到 1只剩 Leader 自己。但由于没有配置min.insync.replicas写入还在继续。只是此时的数据只有 Leader 一份拷贝——如果有人再重启这台 Broker数据就会丢。后来 Full GC 结束后Follower 重新加入 ISR但 ISR 为 1 的那段时间里Leader 和 Follower 之间的数据差距已经很大了。恢复过程中产生了大量的网络传输又引发了新的 Full GC。一个 Full GC引发了一连串的连锁反应。如果当时配置了min.insync.replicas2在 ISR 降到 1 的时候写入就会立刻被拒绝。虽然系统不可用了但数据不会丢。这是一个 trade-off用短暂的服务不可用换取数据的完整性。三、Leader 选举怎么选出新 Leader当 Leader 挂了Kafka 需要从剩下的 Follower 中选一个新的 Leader。选谁最简单也最合理的原则选 ISR 里数据最新的那个。Kafka 的 Controller集群的大脑本质也是一个 Broker 节点负责这个决策。具体流程是1. Controller 检测到 Leader 心跳超时2. Controller 暂停对这个分区的读写3. Controller 从 ISR 列表中选出一个 Follower 作为新 Leader4. Controller 通知所有 Broker 更新元数据5. 新 Leader 开始服务读写请求整个过程的耗时一般是毫秒级别的主要取决于 Zookeeper/KRaft 的分布式协调延迟。Unclean Leader Election一个危险的选项Kafka 有一个配置叫unclean.leader.election.enable。默认是false。如果所有在 ISR 里的副本都挂了比如 3 台 Broker 全宕机会怎么样答案是不可用。Kafka 会一直等 ISR 里的副本恢复。如果把unclean.leader.election.enable设为trueKafka 会选择 ISR 之外的副本作为 Leader。但是这些副本的数据可能落后很多——选了它会丢数据。这是一个非常危险的操作。开启了它意味着在极端场景下你选择了可用而不是一致。大多数业务场景下不要开这个选项。宁可不可用也不要丢数据。四、Kafka 为什么快不是快而是流程简单很多人喜欢问Kafka 为什么快常见的答案有顺序写、零拷贝、页缓存、批量压缩……这些都对但没说到根上。Kafka 快的根本原因不是某个技术优化而是它的设计让数据流动的路径非常短。对比一下传统消息队列比如 ActiveMQ和 Kafka 的写入流程传统队列写入1. 网络接收 → 写入内存队列 → 持久化到磁盘 → ACK2. 数据还要经过索引构建、事务管理、消费者匹配等额外步骤3. 路径长中间环节多Kafka 写入1. 网络接收 → 顺序追加到日志文件尾部 → ACK没了。就这三步。这就是 Kafka 的哲学消息队列的核心就是存-转不要做多余的事情。顺序写的威力传统磁盘随机写 IOPS 很低。但顺序写不一样——顺序写的吞吐量可以达到随机写的几十倍甚至上百倍。Kafka 的所有写操作都是顺序追加——新消息永远写到日志文件的尾部。这个设计让 Kafka 即使使用普通机械硬盘也能达到很高的吞吐量。零拷贝在消费数据时Kafka 用 Linux 的sendfile系统调用实现了数据从磁盘到网卡的直接传输中间不用经过用户空间。传统方式磁盘 → 内核缓冲区 → 用户缓冲区 → Socket 缓冲区 → 网卡 零拷贝 磁盘 → 内核缓冲区 → 网卡少了两次内存拷贝节省了大量 CPU 资源。页缓存Kafka 没有自己实现缓存而是依赖操作系统的页缓存Page Cache。为什么因为操作系统的页缓存比任何自己实现的缓存都聪明。它会根据访问频率自动调整哪些数据留在内存它在内存充足时自动缓存热数据它在内存紧张时自动淘汰冷数据Kafka 只要做一件事把数据写完就告诉操作系统。写到哪了Page Cache 里还是磁盘上让 OS 决定吧。很多开发者低估了信任操作系统的价值。Kafka 的很多性能优势本质上来自于不过度管理——让操作系统做它最擅长的事情。五、分区数量不是越多越好分区是 Kafka 并行度的基础。分区越多并行度越高。但分区不是越多越好。原因有三1. 每个分区都有元数据开销。每个分区对应一个日志目录一个内存索引一个 ISR 列表。分区数达到几千之后Controller 的元数据管理压力会明显增大。2. 每个分区都需要 Leader。Leader 会占用 CPU 和内存资源。分区太多每个 Broker 上跑的 Leader 太多会影响单个分区的性能。3. 分区重新分配很痛苦。当你需要增加 Broker 或者重新平衡分区时分区数越多迁移时间越长。行业经验是一个 Kafka 集群的分区总数建议不超过 1 万个。单台 Broker 上的分区数建议不超过 2000 个。六、实际生产配置建议最后给几条经过验证的生产配置建议。Broker 配置# 副本数3 是生产环境的推荐值 default.replication.factor3 # 最少同步副本数配合 acksall 使用 min.insync.replicas2 # ISR 超时时间 replica.lag.time.max.ms10000 # 日志保留策略 log.retention.hours72 log.segment.bytes1073741824Producer 配置acksall retries3 max.in.flight.requests.per.connection1 enable.idempotencetrue compression.typesnappyConsumer 配置enable.auto.commitfalse auto.offset.resetearliest max.poll.records500enable.idempotencetrue是 Kafka 0.11 引入的幂等生产者。它保证了即使生产者重试消息也不会重复。建议所有生产环境都开启。写在最后Kafka 能成为消息队列领域的事实标准不是因为它功能多。恰恰相反——它因为功能少而强大。Kafka 的设计者删掉了很多看起来有必要的功能比如复杂的路由、事务消息、优先级队列把精力集中在把存-转这个核心路径做到极致。这种做减法的能力比做加法难得多。很多中间件到最后都会变得臃肿因为每个用户都要求加功能。Kafka 能做到现在这个粒度还很克制不容易。对于工程师来说理解 Kafka 的价值不在于学会用它的 API而在于理解它为什么选择做这些又为什么选择不做那些。这才是最好的架构课。