随笔分类 -  kafka

摘要:centos7环境下配置kafka_2.12-2.6.0+zookeeper-3.4.14环境因为kafka比较稳定,考虑到服务器资源不足,单机版kafka即可满足业务需求kafka依赖zookeeper,需要先部署zookeeper准备工作:添加启动kafka和zookeeper的用户groupa 阅读全文
posted @ 2020-08-07 15:20 reblue520 阅读(645) 评论(0) 推荐(0) 编辑
摘要:访问web管理界面添加集群并测 试 阅读全文
posted @ 2018-01-15 15:41 reblue520 阅读(718) 评论(0) 推荐(0) 编辑
摘要:1.环境信息整体架构 不同的机房的producer向中心节点发送信息,中心节点内部局域网消费信息进入hadoop集群 部署服务器基本信息 外网IP 操作系统 内网IP 安装服务 1.1.1.1_yqmusic01 centos7.2_x86_64 10.19.97.25 kafka,zook 2... 阅读全文
posted @ 2018-01-13 14:57 reblue520 编辑
摘要:业务背景:app分散在不同的idc厂商不同的地域,产生业务数据都向一个kafka中进行处理,这些数据比较分散,如果一时网络抖动或者其他因素,数据就丢失了app --> kafka --> hadoop集群 于是在各机房建一个机房中心kafka,kafka可以保留3天或者3天以上的数据,然后集中向中心 阅读全文
posted @ 2017-11-17 19:05 reblue520 阅读(2179) 评论(0) 推荐(0) 编辑