Apache Kafka - 消費者組示例

消費者組是從 Kafka 主題執行多執行緒或多機器消費。

消費者組

• 消費者可以透過使用相同的 group.id. 加入一個組。

• 一個組的最大併發性是該組中消費者數量 ← 分割槽數量。

• Kafka 將主題的分割槽分配給組中的消費者，這樣每個分割槽都由組中的一個消費者使用。

• Kafka 保證一條訊息只會由組中的一個消費者讀取。

• 消費者可以按日誌中儲存的順序檢視訊息。

重新平衡消費者

新增更多程序/執行緒會使 Kafka 重新平衡。如果任何消費者或代理未能向 ZooKeeper 傳送心跳，則可以透過 Kafka 叢集重新配置它。在此重新平衡過程中，Kafka 將可用分割槽分配給可用執行緒，可能將分割槽移動到另一個程序中。

import java.util.Properties;
import java.util.Arrays;
import org.apache.kafka.clients.consumer.KafkaConsumer;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.ConsumerRecord;

public class ConsumerGroup {
   public static void main(String[] args) throws Exception {
      if(args.length < 2){
         System.out.println("Usage: consumer <topic> <groupname>");
         return;
      }
      
      String topic = args[0].toString();
      String group = args[1].toString();
      Properties props = new Properties();
      props.put("bootstrap.servers", "localhost:9092");
      props.put("group.id", group);
      props.put("enable.auto.commit", "true");
      props.put("auto.commit.interval.ms", "1000");
      props.put("session.timeout.ms", "30000");
      props.put("key.deserializer",          
         "org.apache.kafka.common.serialization.ByteArraySerializer");
      props.put("value.deserializer", 
         "org.apache.kafka.common.serializa-tion.StringDeserializer");
      KafkaConsumer<String, String> consumer = new KafkaConsumer<String, String>(props);
      
      consumer.subscribe(Arrays.asList(topic));
      System.out.println("Subscribed to topic " + topic);
      int i = 0;
         
      while (true) {
         ConsumerRecords<String, String> records = consumer.poll(100);
            for (ConsumerRecord<String, String> record : records)
               System.out.printf("offset = %d, key = %s, value = %s\n", 
               record.offset(), record.key(), record.value());
      }     
   }  
}

編譯

javac -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*" ConsumerGroup.java

執行

>>java -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*":. 
ConsumerGroup <topic-name> my-group
>>java -cp "/home/bala/Workspace/kafka/kafka_2.11-0.9.0.0/libs/*":. 
ConsumerGroup <topic-name> my-group

在這裡，我們建立了一個名為 my-group 的示例組，有 2 個消費者。同樣，你可以在組中建立自己的組和消費者數量。

輸入

開啟生產者 CLI 併發送一些類似的訊息 −

Test consumer group 01
Test consumer group 02

第一個程序的輸出

Subscribed to topic Hello-kafka
offset = 3, key = null, value = Test consumer group 01

第二個程序的輸出

Subscribed to topic Hello-kafka
offset = 3, key = null, value = Test consumer group 02

現在希望你已經透過使用 Java 客戶端演示瞭解了 SimpleConsumer 和 ConsumeGroup。現在你瞭解瞭如何使用 Java 客戶端傳送和接收訊息。讓我們在下一章繼續 Kafka 與大資料技術的整合。