Apache Kafka - 消费者群体示例

消费者群体是来自Kafka主题的多线程或多机消费.

消费者群体

• 消费者可以使用相同的

• 最大并行度一组是该组中的消费者数量和数量.没有分区.

• Kafka将主题的分区分配给组中的使用者，以便每个分区仅由组中的一个使用者使用.

• Kafka保证邮件只能由该组中的单个消费者阅读.

• 消费者可以按照日志中存储的顺序查看消息.

重新平衡消费者

添加更多进程/线程将导致Kafka重新平衡.如果任何使用者或代理无法向ZooKeeper发送心跳，则可以通过Kafka群集重新配置它.在重新平衡期间，Kafka会将可用分区分配给可用线程，可能会将分区移动到另一个进程.

import java.util.Properties;import java.util.Arrays;import org.apache.kafka.clients.consumer.KafkaConsumer;import org.apache.kafka.clients.consumer.ConsumerRecords;import org.apache.kafka.clients.consumer.ConsumerRecord;public class ConsumerGroup {   public static void main(String[] args) throws Exception {      if(args.length < 2){         System.out.println("Usage: consumer  ");         return;      }            String topic = args[0].toString();      String group = args[1].toString();      Properties props = new Properties();      props.put("bootstrap.servers", "localhost:9092");      props.put("group.id", group);      props.put("enable.auto.commit", "true");      props.put("auto.commit.interval.ms", "1000");      props.put("session.timeout.ms", "30000");      props.put("key.deserializer",                   "org.apache.kafka.common.serialization.ByteArraySerializer");      props.put("value.deserializer",          "org.apache.kafka.common.serializa-tion.StringDeserializer");      KafkaConsumer consumer = new KafkaConsumer(props);            consumer.subscribe(Arrays.asList(topic));      System.out.println("Subscribed to topic " + topic);      int i = 0;               while (true) {         ConsumerRecords records = con-sumer.poll(100);            for (ConsumerRecord record : records)               System.out.printf("offset = %d, key = %s, value = %s\n",                record.offset(), record.key(), record.value());      }        }  }

编译

javac -cp"/path/to/kafka/kafka_2.11-0.9.0.0/libs/*"ConsumerGroup.java

执行

>>java -cp "/path/to/kafka/kafka_2.11-0.9.0.0/libs/*":. ConsumerGroup  my-group>>java -cp "/home/bala/Workspace/kafka/kafka_2.11-0.9.0.0/libs/*":. ConsumerGroup  my-group

这里我们创建了一个样本组名称为，其中包含两个使用者.同样，您可以在组中创建您的组和消费者数量.

输入

打开生产者CLI并发送一些消息，如 :

Test consumer group 01Test consumer group 02

输出第一个过程

Subscribed to topic Hello-kafkaoffset = 3, key = null, value = Test consumer group 01

第二个流程的输出

Subscribed to topic Hello-kafkaoffset = 3, key = null, value = Test consumer group 02

现在希望你能通过使用Java客户端演示了解SimpleConsumer和ConsumeGroup .现在您已了解如何使用Java客户端发送和接收消息.让我们在下一章继续Kafka与大数据技术的整合.