Kafka消费者组

Kafka 消费者组（Consumer Group） 的主要目的是实现消息的并行消费和负载均衡，同时确保消息在组内消费者之间的合理分配。以下是其核心作用和设计意图：

1. 核心目的

(1) 并行消费，提高吞吐量

• 一个消费者组包含多个消费者实例（可以分布在不同的进程或机器上）。
• 组内的消费者共同消费同一个Topic的分区（Partition），每个分区在同一时间只能被组内的一个消费者消费。
• 分区数 ≥ 消费者数时，能最大化并行能力。
  例如：Topic有3个分区，消费者组有3个消费者，则每个消费者负责1个分区，实现完全并行。

(2) 负载均衡

• Kafka会自动将分区均匀分配给组内的消费者（通过GroupCoordinator协调）。
• 当消费者加入或离开组时，会触发Rebalance（重新分配分区），确保负载均衡。

(3) 消息顺序性保证

• 单个分区内的消息是有序的，且同一分区始终由同一个消费者处理，因此分区内顺序能得到保证。
• 注意：不同分区之间的消息顺序无法保证。

(4) 容错与高可用

• 如果某个消费者崩溃，组内其他消费者会通过Rebalance接管其负责的分区，避免消息堆积。
• 消费者组支持自动提交偏移量（Offset），记录消费进度，防止重复消费或丢失消息。

2. 典型应用场景

(1) 横向扩展消费能力

• 通过增加消费者实例，线性提升消费速度（但不超过分区数）。
  例如：一个Topic有10个分区，消费者组最多可以用10个消费者达到最大吞吐。

(2) 发布-订阅模式

• 多个消费者组可以独立消费同一Topic的全部消息，实现广播效果。
  例如：订单消息同时被「库存系统」和「物流系统」两个消费者组消费。

(3) 竞争模式（单播）

• 同一消费者组内的消费者竞争分区，每条消息只会被组内的一个消费者处理。

3. 关键机制

(1) Rebalance（再平衡）

• 触发条件：消费者加入/离开组、分区数量变化、订阅的Topic变化等。
• 分配策略：默认为Range或RoundRobin，也可自定义（如StickyAssignor避免频繁Rebalance）。

(2) Offset管理

• 消费者组通过提交Offset记录消费进度（支持自动或手动提交）。
• Offset存储在Kafka内部Topic__consumer_offsets中。

(3) 心跳检测

• 消费者通过定期发送心跳（heartbeat.interval.ms）向协调者声明存活状态，超时会被踢出组并触发Rebalance。

4. 注意事项

1. 分区数限制

   • 消费者组的并行度受限于分区数。如果消费者数 > 分区数，多余消费者会闲置。
   • 建议：分区数 ≥ 消费者数。

2. Rebalance开销

   • 频繁Rebalance会导致消费暂停，影响性能。需合理配置session.timeout.ms和max.poll.interval.ms。

3. 消息顺序与重复

   • Rebalance可能导致短暂的消息重复或顺序变化（需业务端处理幂等性）。

5. 示例场景

// 消费者1（消费分区0）
KafkaConsumer consumer1 = new KafkaConsumer(props);
consumer1.subscribe(Arrays.asList("test-topic"));  // 组ID: "group-1"

// 消费者2（消费分区1）
KafkaConsumer consumer2 = new KafkaConsumer(props);
consumer2.subscribe(Arrays.asList("test-topic"));  // 同组"group-1"

// Topic "test-topic"有2个分区：
// - 分区0 → consumer1
// - 分区1 → consumer2

总结

Kafka消费者组的本质是通过分区分配机制，在保证消息顺序的前提下，实现：

1. 水平扩展消费能力，
2. 负载均衡，
3. 容错恢复，
4. 灵活的消息分发模式（单播/广播）。