摘要: 关键:查看kafka官网的userguide agent.sources = kafkaSourceagent.channels = memoryChannelagent.sinks = hdfsSink agent.sources.kafkaSource.type = org.apache.flu 阅读全文
posted @ 2018-05-28 22:13 瓶子xf 阅读(146) 评论(0) 推荐(0) 编辑
摘要: 关键:查看kafka官网的userGuide 配置文件: agent.sources = r1agent.sinks = k1agent.channels = c1 ## sources configagent.sources.r1.type = org.apache.flume.source.ka 阅读全文
posted @ 2018-05-28 22:12 瓶子xf 阅读(202) 评论(0) 推荐(0) 编辑
摘要: 配置文件: agent.sources = r1agent.sinks = k1agent.channels = c1 ## sources configagent.sources.r1.type = org.apache.flume.source.kafka.KafkaSourceagent.so 阅读全文
posted @ 2018-05-28 22:10 瓶子xf 阅读(217) 评论(0) 推荐(0) 编辑
摘要: Sqoop工具1、协助 RDBMS 与 Hadoop 之间进行高效的大数据交流。把关系型数据库的数据导入到 Hadoop 与其相关的系统 (如HBase和Hive)同时也可以把数据从 Hadoop 系统里抽取并导出到关系型数据库里。Sqoop中一大亮点就是可以通过hadoop的mapreduce把数 阅读全文
posted @ 2018-05-28 22:04 瓶子xf 阅读(504) 评论(0) 推荐(0) 编辑
摘要: Master: #MasterAgentMasterAgent.channels = c1MasterAgent.sources = s1MasterAgent.sinks = k1 #MasterAgent Avro SourceMasterAgent.sources.s1.type = avro 阅读全文
posted @ 2018-05-28 22:01 瓶子xf 阅读(181) 评论(0) 推荐(0) 编辑
摘要: flume采集过程: #说明:案例是flume监听目录/home/hadoop/flume_kafka采集到kafka; 启动集群 启动kafka, 启动agent,flume-ng agent -c . -f /home/hadoop/flume-1.7.0/conf/myconf/flume-k 阅读全文
posted @ 2018-05-28 21:53 瓶子xf 阅读(1305) 评论(0) 推荐(0) 编辑
摘要: >先创建Hbase表和列族< 案例1:源数据一行对应Hbase的一列存储(hbase-1.12没有问题) #说明:案例是flume监听目录/home/hadoop/flume_hbase采集到hbase;必须先在Hbase中创建表和列族 数据目录:vi /home/hadoop/flume_hbas 阅读全文
posted @ 2018-05-28 21:52 瓶子xf 阅读(665) 评论(0) 推荐(0) 编辑