摘要: 参考site:http://kafka.apache.org/documentation.html#impl_zookeeper1、zookeeper客户端相关命令在确保zookeeper服务启动状态下,通过 bin/zkCli.sh -server 127.0.0.1:2181 该命令来连接客户端... 阅读全文
posted @ 2016-01-13 15:22 一寸相思万千劫 阅读(10020) 评论(0) 推荐(4) 编辑
摘要: 参考site:https://github.com/yahoo/kafka-manager 一、功能管理多个kafka集群便捷的检查kafka集群状态(topics,brokers,备份分布情况,分区分布情况)选择你要运行的副本基于当前分区状况进行可以选择topic配置并创建topic(0.8.1... 阅读全文
posted @ 2016-01-13 10:03 一寸相思万千劫 阅读(20509) 评论(5) 推荐(1) 编辑
摘要: 参照site:https://github.com/quantifind/KafkaOffsetMonitor一、简述 这个应用程序用来实时监控Kafka服务的Consumer以及它们所在的Partition中的Offset,我们可以浏览当前的消费者组,并且每个Topic的所有Partition的... 阅读全文
posted @ 2016-01-12 10:29 一寸相思万千劫 阅读(21455) 评论(1) 推荐(0) 编辑
摘要: 参考site:https://cwiki.apache.org/confluence/display/KAFKA/Replication+tools目前我们的topic test-add-replication-topic中partition 0的replicas为[1,2],则1为preferre... 阅读全文
posted @ 2016-01-11 15:10 一寸相思万千劫 阅读(4440) 评论(0) 推荐(0) 编辑
摘要: 是指手动写扩充replicas的配置文件,然后使用工具进行操作。 参考官网site:http://kafka.apache.org/documentation.html#basic_ops_automigrate 1.首先创建一个三分区一副本的topic,并查看详细信息: 2.修... 阅读全文
posted @ 2016-01-11 14:21 一寸相思万千劫 阅读(4506) 评论(0) 推荐(0) 编辑
摘要: 对topic增加partition 参考官网site:http://kafka.apache.org/documentation.html#basic_ops_modify_topic 通过kafka-topics.sh工具的alter命令,将replicated-topic的partition... 阅读全文
posted @ 2016-01-11 11:44 一寸相思万千劫 阅读(3139) 评论(0) 推荐(0) 编辑
摘要: kafka日志文件分为5种类型,依次为:controller,kafka-request,server,state-change,log-cleaner,不同类型log数据,写到不同文件中: 区别于config/server.properties中的log.dirs参数。 1: # Licensed to the Apache Software Foundati... 阅读全文
posted @ 2016-01-08 09:15 一寸相思万千劫 阅读(5383) 评论(0) 推荐(0) 编辑
摘要: 一、下载下载地址: http://kafka.apache.org/downloads.htmlkafka目录结构目录说明bin操作kafka的可执行脚本,还包含windows下脚本config配置文件所在目录libs依赖库目录logs日志数据目录,目录kafka把server端日志分为5种类型, ... 阅读全文
posted @ 2016-01-07 23:17 一寸相思万千劫 阅读(4019) 评论(0) 推荐(3) 编辑
摘要: apache kafka参考http://kafka.apache.org/documentation.html消息队列方式:点对点:消息生产者生产消息发送到queue中,然后消息消费者从queue中取出并且消费消息。这里要注意:消息被消费以后,queue中不再有存储,所以消息消费者不可能消费到已经... 阅读全文
posted @ 2016-01-07 23:08 一寸相思万千劫 阅读(8742) 评论(0) 推荐(1) 编辑
摘要: Kafka为broker,producer和consumer提供了很多的配置参数。 了解并理解这些配置参数对于我们使用kafka是非常重要的。官网配置地址: Configuration每个kafka broker中配置文件server.properties默认必须配置的属性如下: 1 broker.... 阅读全文
posted @ 2016-01-07 23:03 一寸相思万千劫 阅读(40150) 评论(0) 推荐(3) 编辑