Kafka 工具&应用程序

  • 工具

    Kafka工具打包在“org.apache.kafka.tools.*”下。工具分为系统工具和复制工具。
  • 系统工具

    可以使用运行类脚本从命令行运行系统工具。语法如下-
    
    bin/kafka-run-class.sh package.class - - options
    
    下面提到了一些系统工具-
    • Kafka迁移工具 - 此工具用于将代理从一个版本迁移到另一个版本。
    • Mirror Maker - 此工具用于将一个Kafka群集镜像到另一个。
    • 消费者偏移检查器 - 此工具显示指定主题和消费者组的消费者组,主题,分区,偏移,logSize,所有者。
  • 复制工具

    Kafka复制是高级设计工具。添加复制工具的目的是为了实现更高的持久性和更高的可用性。下面提到了一些复制工具-
    • 创建主题工具 - 这将创建一个具有默认分区数,复制因子的主题,并使用Kafka的默认方案进行副本分配。
    • 列表主题工具 - 该工具列出给定主题列表的信息。如果命令行中未提供主题,该工具将查询Zookeeper以获取所有主题并列出其信息。该工具显示的字段是主题名称,分区,领导者,副本,isr。
    • 添加分区工具 - 创建主题,必须指定主题的分区数。稍后,当主题的数量将增加时,主题可能需要更多的分区。该工具有助于为特定主题添加更多分区,并且还允许对添加的分区进行手动副本分配。
  • 应用程序

    Kafka支持当今许多最佳的工业应用。在本章中,我们将简要概述Kafka的一些最著名的应用程序。
  • 推特(Twitter)

    Twitter是一种在线社交网络服务,提供了发送和接收用户推文的平台。注册用户可以阅读和发布推文,但未注册用户只能阅读推文。Twitter使用Storm-Kafka作为其流处理基础结构的一部分。
  • 领英(LinkedIn)

    LinkedIn上将Apache Kafka用于活动流数据和运营指标。Kafka mes-saging系统可以帮助LinkedIn提供各种产品,例如LinkedIn Newsfeed,LinkedIn Today,以用于在线消息消费以及Hadoop等离线分析系统。Kafka的坚固耐用性也是与LinkedIn相关的关键因素之一。
  • 奈飞(Netflix)

    Netflix是点播互联网流媒体的美国跨国提供商。Netflix使用Kafka进行实时监控和事件处理。
  • Mozilla

    Mozilla是一个免费软件社区,由Netscape成员于1998年创建。Kafka很快将替换Mozilla当前生产系统的一部分,以从最终用户的浏览器中收集遥测,测试飞行员等项目的性能和使用情况数据。
  • 甲骨文(Oracle)

    Oracle通过其称为OSB(Oracle Service Bus)的企业服务总线产品提供了与Kafka的本地连接,该产品允许开发人员利用OSB内置的中介功能来实现分段数据管道。