随笔分类 - kafka
摘要:centos7环境下配置kafka_2.12-2.6.0+zookeeper-3.4.14环境因为kafka比较稳定,考虑到服务器资源不足,单机版kafka即可满足业务需求kafka依赖zookeeper,需要先部署zookeeper准备工作:添加启动kafka和zookeeper的用户groupa
阅读全文
摘要:访问web管理界面添加集群并测 试
阅读全文
摘要:1.环境信息整体架构 不同的机房的producer向中心节点发送信息,中心节点内部局域网消费信息进入hadoop集群 部署服务器基本信息 外网IP 操作系统 内网IP 安装服务 1.1.1.1_yqmusic01 centos7.2_x86_64 10.19.97.25 kafka,zook 2...
阅读全文
摘要:业务背景:app分散在不同的idc厂商不同的地域,产生业务数据都向一个kafka中进行处理,这些数据比较分散,如果一时网络抖动或者其他因素,数据就丢失了app --> kafka --> hadoop集群 于是在各机房建一个机房中心kafka,kafka可以保留3天或者3天以上的数据,然后集中向中心
阅读全文