随笔分类 -  Kafka系列

消息流传递并处理的框架
摘要:1. Kafka概要设计 kafka在设计之初就需要考虑以下4个方面的问题: 吞吐量/延时 消息持久化 负载均衡和故障转移 伸缩性 1.1 吞吐量/延时 对于任何一个消息引擎而言,吞吐量都是至关重要的性能指标。那么何为吞吐量呢?通常来说,吞吐量是某种处理能力的最大值。而对于Kafka而言,它的吞吐量 阅读全文
posted @ 2019-01-21 18:00 牧梦者 阅读(5098) 评论(0) 推荐(1) 编辑
摘要:1. Kafka全部数据清空 kafka全部数据清空的步骤为: 这里以192.168.187.201 node1、192.168.187.202 node2、192.168.187.203 node3三台机器作为kafka的集群。 注意:kafka版本为kafka_2.11-1.1.1 1.1 停止 阅读全文
posted @ 2018-11-25 00:15 牧梦者 阅读(29904) 评论(2) 推荐(3) 编辑
摘要:1.从官网下载安装包,并通过Xftp5上传到机器集群上 下载kafka_2.11-1.1.0.tgz版本,并通过Xftp5上传到hadoop机器集群的第一个节点node1上的/opt/uploads/目录: 2、解压kafka_2.11-1.1.0.tgz,并把解压的安装包移动到/opt/app/目 阅读全文
posted @ 2018-04-17 01:05 牧梦者 阅读(618) 评论(0) 推荐(0) 编辑
摘要:kafka相关的常用命令 后台启动kafka kafka-server-start.sh /opt/app/kafka_2.11-1.1.0/config/server.properties > /dev/null 2>&1 & 关闭kafka kafka-server-stop.sh 创建topi 阅读全文
posted @ 2018-01-15 00:21 牧梦者 阅读(1823) 评论(0) 推荐(0) 编辑
摘要:1. Kafka入门介绍 1.1 Apache Kafka是一个分布式的流平台。这到底意味着什么? 我们认为,一个流平台具有三个关键能力: ① 发布和订阅消息。在这方面,它类似一个消息队列或企业消息系统。(生产和消费消息) ② 以容错的方式存储消息流。(存储消息) ③ 当消息流发生时处理它们。(处理 阅读全文
posted @ 2018-01-13 17:02 牧梦者 阅读(708) 评论(1) 推荐(1) 编辑