摘要: 写在最前,本次环境搭建是在Hadoop2.6.1,三节点的基础上完成的。 (关于搭建Hadoop环境,可参考:https://www.cnblogs.com/SysoCjs/p/10835793.html) 说明: #master,表示在master节点上操作; #master,#slave1,#s 阅读全文
posted @ 2019-07-18 14:12 KamShing 阅读(497) 评论(0) 推荐(0) 编辑
摘要: 一、kafka体系架构 由上图可知,有三台机器搭建的kafka集群,kafka作为一种消息队列,producer以push模式将数据发送到kafka的机器上(每一台kafka机器可以认为是一个kafka broker),同时订阅了kafka broker的consumer,以pull模式对消息进行消 阅读全文
posted @ 2019-07-18 14:06 KamShing 阅读(342) 评论(0) 推荐(0) 编辑
摘要: 写在最前,本次环境搭建是在Hadoop2.6.1,Zookeeper3.4.11,三节点的基础上完成的。 (关于搭建Hadoop环境,可参考:https://blog.csdn.net/weixin_39400271/article/details/89057884 关于搭建zookeeper环境, 阅读全文
posted @ 2019-07-18 13:57 KamShing 阅读(480) 评论(0) 推荐(0) 编辑
摘要: 写在最前,后面测试会用到HDFS2,所以本次环境搭建是在Hadoop2.6.1,三节点的基础上完成的。 (关于搭建Hadoop环境,可参考:https://www.cnblogs.com/SysoCjs/p/10835793.html) 说明: 集群环境: Master 192.168.112.10 阅读全文
posted @ 2019-07-18 12:18 KamShing 阅读(295) 评论(0) 推荐(0) 编辑
摘要: 写在最前,本次环境搭建是在Hadoop2.6.1,三节点的基础上完成的。 (关于搭建Hadoop环境,可参考:https://www.cnblogs.com/SysoCjs/p/10835793.html) 说明: #master,表示在master节点上操作; #master,#slave1,#s 阅读全文
posted @ 2019-07-18 10:44 KamShing 阅读(238) 评论(0) 推荐(0) 编辑
摘要: 一、HDFS1.x架构图 对于HDFS1.x来讲,它的架构图由三个组件组成:NameNode、SecondaryNameNode和DataBode。 稍微了解过hadoop1.x的同学,就会知道hadoop1.x集群里面的资源管理和作业调度及监控都是有NameNode负责,一个集群,只有一台机器(M 阅读全文
posted @ 2019-07-18 10:24 KamShing 阅读(350) 评论(0) 推荐(0) 编辑