剖析 Kafka 消息丢失的原因

来源：网络作者：趣玩小编发布时间：2024-06-20 18:58:33

前言

Kafka消息丢失的原因通常涉及多个方面，包括 生产者、消费者和Kafka服务端（Broker）的配置和行为 。下面将围绕这三个关键点，详细探讨Kafka消息丢失的常见原因，并提供相应的解决方案和最佳实践。具体分析如下：

一、生产者导致消息丢失的场景

场景1：消息体太大

消息大小超过Broker的message.max.bytes的值。此时Broker会直接返回错误。

解决方案：

1、减少生产者发送消息体体积

可以通过压缩消息体、去除不必要的字段等方式减小消息大小。

2、调整参数max.request.size

max.request.size，表示生产者发送的单个消息的最大值，也可以指单个请求中所有消息的总和大小。默认值为1048576B，1MB。这个参数的值值必须小于Broker的message.max.bytes。

场景2：异步发送机制

Kafka生产者默认采用异步发送消息，如果未正确处理发送结果，可能导致消息丢失。

解决方案：

1、使用带回调函数的发送方法

不要使用 producer.send(msg)，而要使用 producer.send(msg, callback)。带有回调通知的 send 方法可以针对发送失败的消息进行重试处理。

场景3：网络问题和配置不当

生产者在发送消息时可能遇到网络抖动或完全中断，导致消息未能到达Broker。如果生产者的配置没有考虑这种情况，例如未设置恰当的重试机制（ retries 参数）和确认机制（ acks 参数），消息就可能在网络不稳定时丢失。

解决方案：

1、设置 `acks` 参数设置为"all"

acks参数指定了必须要有多少个分区副本收到消息，生产者才认为该消息是写入成功的，这个参数对于消息是否丢失起着重要作用，该参数的配置具体如下：

all/-1 : 表示kafka isr列表中所有的副本同步数据成功，才返回消息给客户端
0 ：表示客户端只管发送数据，不管服务端接收数据的任何情况
1 ：表示客户端发送数据后，需要在服务端 leader 副本写入数据成功后，返回响应

使用同步发送方式或确保 acks 参数设置为"all"，以确保所有副本接收到消息。

2、设置重试参数

重试参数主要有retries和retry.backoff.ms两个参数。

（1）参数 retries是指生产者重试次数，该参数默认值为0。

消息在从生产者从发出到成功写入broker之前可能发生一些临时性异常，比如网络抖动、leader副本选举等，这些异常发生时客户端会进行重试，而重试的次数由retries参数指定。如果重试达到设定次数，生产者才会放弃重试并抛出异常。但是并不是所有的异常都可以通过重试来解决，比如消息过大，超过max.request.size参数配置的数值（默认值为1048576B，1MB）。如果设置retries大于0而没有设置参数max.in.flight.requests.per.connection（限制每个连接，也就是客户端与Node之间的连接最多缓存请求数）大于0则意味着放弃发送消息的顺序性。

使用retries的默认值交给使用方自己去控制，结果往往是不处理。所以通用设置建议设置如下：

retries = Integer.MAX_VALUE
max.in.flight.requests.per.connection = 1

该参数的设置已经在kafka 2.4版本中默认设置为Integer.MAX_VALUE；同时增加了delivery.timeout.ms的参数设置。

（2）参数retry.backoff.ms 用于设定两次重试之间的时间间隔，默认值为100。

避免无效的频繁重试。在配置retries和retry.backoff.ms之前，最好先估算一下可能的异常恢复时间，这样可以设定总的重试时间要大于异常恢复时间，避免生产者过早的放弃重试。

3、设置 min.insync.replicas参数

参数min.insync.replicas，该参数控制的是消息至少被写入到多少个副本才算是 “真正写入”，该值默认值为 1，不建议使用默认值 1，建议设置min.insync.replicas至少为2。因为如果同步副本的数量低于该配置值，则生产者会收到错误响应，从而确保消息不丢失。

二、Broker服务端导致消息丢失的场景

场景1：Broker 宕机

为了提升性能，Kafka 使用 Page Cache，先将消息写入 Page Cache，采用了异步刷盘机制去把消息保存到磁盘。如果刷盘之前，Broker Leader 节点宕机了，并且没有 Follower 节点可以切换成 Leader，则 Leader 重启后这部分未刷盘的消息就会丢失。

如果Broker的副本因子（ replication.factor ）设置过低，或者同步副本的数量（ min.insync.replicas ）设置不当，一旦Leader Broker宕机，选举出的新的Leader可能不包含全部消息，导致消息丢失。

解决方案：

1、增加副本数量

这种场景下多设置副本数是一个好的选择，通常的做法是设置 replication.factor >= 3，这样每个 Partition 就会有 3个以上 Broker 副本来保存消息，同时宕机的概率很低。

同时配合设置上文提到的参数 min.insync.replicas至少为2（不建议使用默认值 1），表示消息至少要被成功写入到 2 个 Broker 副本才算是发送成功。

场景2：leader挂掉，follower未同步

假如 leader 副本所在的 broker 突然挂掉，那么就要从 follower 副本重新选出一个 leader ，但 leader 的数据还有一些没有被 follower 副本同步的话，就会造成消息丢失。

解决方案：

1、leader竞选资格

参数unclean.leader.election.enable 的值说明如下：

true：允许 ISR 列表之外的节点参与竞选 Leader；
false：不允许 ISR 列表之外的节点参与竞选 Leader。

该参数默认值为false。但如果为true的话，意味着非ISR集合中的副本也可以参加选举成为leader，由于不同步副本的消息较为滞后，此时成为leader的话可能出现消息不一致的情况。所以unclean.leader.election.enable 这个参数值要设置为 false。

2、增加副本数量

同上文。

场景3：持久化错误

为了提高性能，减少刷盘次数， Kafka的Broker数据持久化时，会先存储到页缓存（Page cache）中，

按照一定的消息量和时间间隔进行进行批量刷盘的做法。数据在page cache时，如果系统挂掉，消息未能及时写入磁盘，数据就会丢失。Kafka没有提供同步刷盘的方式，所以只能通过增加副本或者修改刷盘参数提高刷盘频率来来减少这一情况。

解决方案：

1、调整刷盘参数

kafka提供设置刷盘机制的参数如下：

log.flush.interval.messages
多少条消息刷盘1次，默认Long.MaxValue

log.flush.interval.ms
隔多长时间刷盘1次默认null

log.flush.scheduler.interval.ms
周期性的刷盘。默认Long.MaxValue

官方不建议通过上述的刷盘3个参数来强制写盘。其认为数据的可靠性通过replica来保证，而强制flush数据到磁盘会对整体性能产生影响。

2、增加副本数量

同上文。

三、消费者导致消息丢失的场景

场景1：提交偏移量后消息处理失败

参数 enable.auto.commit 于设定是否自动提交offset，默认是true。代表消息会自动提交偏移量。但是提交偏移量后，消息处理失败了，则该消息丢失。

解决方案：

可以把 enable.auto.commit 设置为 false，这样相当于每次消费完后手动更新 Offset。不过这又会带来提交偏移量失败时，该消息复消费问题，因此消费端需要做好幂等处理。

场景2：并发消费

如果消费端采用多线程并发消费，很容易因为并发更新 Offset 导致消费失败。

解决方案：

如果对消息丢失很敏感，最好使用单线程来进行消费。如果需要采用多线程，可以把 enable.auto.commit 设置为 false，这样相当于每次消费完后手动更新 Offset。

场景3：消息堆积

消费者如果处理消息的速度跟不上消息产生的速度，可能会导致消息堆积，进而触发消费者客户端的流控机制，从而遗失部分消息。

解决方案：

一般问题都出在消费端，尽量提高客户端的消费速度，消费逻辑另起线程进行处理。

场景4：消费者组rebalance

消费者组 rebalance导致导致消息丢失的场景有两种：
1、某个客户端心跳超时，触发 Rebalance被踢出消费组。如果只有这一个客户端，那消息就不会被消费了。
2、Rebalance时没有及时提交偏移量，因为 Rebalance重新分配分区给消费者，所以如果在 Rebalance 过程中，消费者没有及时提交偏移量，可能会导致消息丢失。

解决方案：

1、尽量提高客户端的消费速度

提高单条消息的处理速度，例如对消息处理中比较耗时的步骤可通过异步的方式进行处理、利用多线程处理等。

2、调整参数避免不必要的rebalance

某些参数设置不当会导致重平衡频繁，严重影响消费速度，此时可以通过调整参数避免不必要的重平衡。 kafka rebalance所涉及的参数如下：

session.timeout.ms
该参数是 Coordinator 检测消费者失败的时间，即在这段时间内客户端是否跟 Coordinator 保持心跳，如果该参数设置数值小，可以更早发现消费者崩溃的信息，从而更快地开启重平衡，避免消费滞后，但是这也会导致频繁重平衡，这要根据实际业务来衡量。

max.poll.interval.ms
于设定consumer两次poll的最大时间间隔（默认5分钟），如果超过了该间隔consumer client会主动向coordinator发起LeaveGroup请求，触发rebalance。根据实际场景可将max.poll.interval.ms值设置大一点，避免不必要的rebalance。

heartbeat.interval.ms
该参数跟 session.timeout.ms 紧密关联，前面也说过，只要在 session.timeout.ms 时间内与 Coordinator 保持心跳，就不会被 Coordinator 剔除，那么心跳间隔的时间就是 session.timeout.ms ，因此，该参数值必须小于 session.timeout.ms ，以保持 session.timeout.ms 时间内有心跳。

max.poll.records
于设定每次调用poll()时取到的records的最大数，默认值是500，可根据实际消息速率适当调小。这种思路可解决因消费时间过长导致的重复消费问题，对代码改动较小，但无法绝对避免重复消费问题。