Kafka 消费者组示例



  • 消费者组

    消费者组是来自Kafka主题的多线程或多计算机消费。
  • 消费组

    • 消费者可以使用相同的group.id加入一个组。
    • 组的最大并行度是组中的使用者数量←没有分区。
    • Kafka将主题的分区分配给组中的使用者,以便每个分区都由组中的一个使用者完全使用。
    • Kafka保证消息只能由该组中的单个消费者读取。
    • 消费者可以按照存储在日志中的顺序查看消息。
    消费者的重新平衡
    添加更多的进程/线程将导致Kafka重新平衡。如果任何消费者或代理无法将心跳发送到ZooKeeper,则可以通过Kafka群集对其进行重新配置。在这种重新平衡期间,Kafka会将可用分区分配给可用线程,可能会将一个分区移至另一个进程。
    
    import java.util.Properties;
    import java.util.Arrays;
    import org.apache.kafka.clients.consumer.KafkaConsumer;
    import org.apache.kafka.clients.consumer.ConsumerRecords;
    import org.apache.kafka.clients.consumer.ConsumerRecord;
    
    public class ConsumerGroup {
       public static void main(String[] args) throws Exception {
          if(args.length < 2){
             System.out.println("Usage: consumer <topic> <groupname>");
             return;
          }
          
          String topic = args[0].toString();
          String group = args[1].toString();
          Properties props = new Properties();
          props.put("bootstrap.servers", "localhost:9092");
          props.put("group.id", group);
          props.put("enable.auto.commit", "true");
          props.put("auto.commit.interval.ms", "1000");
          props.put("session.timeout.ms", "30000");
          props.put("key.deserializer",          
             "org.apache.kafka.common.serialization.ByteArraySerializer");
          props.put("value.deserializer", 
             "org.apache.kafka.common.serializa-tion.StringDeserializer");
          KafkaConsumer<String, String> consumer = new KafkaConsumer<String, String>(props);
          
          consumer.subscribe(Arrays.asList(topic));
          System.out.println("Subscribed to topic " + topic);
          int i = 0;
             
          while (true) {
             ConsumerRecords<String, String> records = consumer.poll(100);
                for (ConsumerRecord<String, String> record : records)
                   System.out.printf("offset = %d, key = %s, value = %s\n", 
                   record.offset(), record.key(), record.value());
          }     
       }  
    }
    
    
    编译 -可以使用以下命令来编译应用程序。
    
    javac -cp "/path/to/kafka/kafka_2.12-1.0.0/libs/*" ConsumerGroup.java
    
    
    执行 -可以使用以下命令执行应用程序。
    
    >>java -cp "/path/to/kafka/kafka_2.12-1.0.0/libs/*":.  
    ConsumerGroup <topic-name> my-group
    >>java -cp "/home/bala/Workspace/kafka/kafka_2.12-1.0.0/libs/*":. 
    ConsumerGroup <topic-name> my-group
    
    
    在这里,我们创建了一个具有两个使用者的示例组名称作为my-group。同样,您可以创建组和该组中的消费者数量。
    输入值
    打开生产者CLI并发送一些消息,例如-
    
    Test consumer group 01
    Test consumer group 02
    
    
    第一过程的输出
    
    Subscribed to topic Hello-kafka
    offset = 3, key = null, value = Test consumer group 01
    
    
    第二过程的输出
    
    Subscribed to topic Hello-kafka
    offset = 3, key = null, value = Test consumer group 02
    
    
    现在希望您可以通过使用Java客户端演示了解SimpleConsumer和ConsumeGroup。现在您有了一个关于如何使用Java客户端发送和接收消息的想法。在下一章中,让我们继续将Kafka与大数据技术集成。