随笔分类 - 【7.5】Kafka
摘要:一、Kafka简介 1.1、定义 旧定义 Kafka 是一个分布式的基于发布/订阅模式的消息队列。 新定义 Kafka 是一个开源的分布式事件流平台,用于数据管道、流分析、数据集成和关键任务的应用。 1.2、使用场景 主要用于大数据实时处理领域。 缓冲: 有助于控制和优化数据流经过系统的速度。 消峰
阅读全文
摘要:一、什么是消息队列 消息队列中间件,又称为消息队列或者消息中间件,是在消息的传输过程中保存消息的容器。 二、消息队列模型 JMS规范目前支持两种消息模型:点对点(point to point, queue)和发布/订阅(publish/subscribe,topic)。消息不可重复消费。 2.1、点
阅读全文
摘要:一、环境准备 + Linux操作系统 + Java运行环境(1.6或以上) + zookeeper 集群环境,可参照 Zookeeper集群部署 。 + 服务器列表: 配置主机名映射。 二、kafka集群部署及启动 2.1、介质准备 分别登录server1、server2、server3执行,操作、
阅读全文
摘要:1、Kafka背景 1.1、Kafka概要 Apache Kafka是一个开源的、轻量级的、分布式的、可分区的、可复制备份的、基于zookeeper协调管理的分布式流式消息系统。由Scala写成,支持多语言客户端,是由Apache软件基金会开发的一个开源消息系统。 Kafka
阅读全文
摘要:说明:本脚本基于SSH服务器免密登录,如集群未配置SSH,参照:《SSH安装配置》 。 一、启动脚本:start kafka cluster.sh 为脚本添加执行权限: 二、停止脚本:stop kafka cluster.sh 为脚本添加执行权限: 参考资料 参考书籍:Kafka入门与实践 作者:
阅读全文