摘要: 简单理解为:Receiver方式是通过zookeeper来连接kafka队列,Direct方式是直接连接到kafka的节点上获取数据 Receiver 使用Kafka的高层次Consumer API来实现。receiver从Kafka中获取的数据都存储在Spark Executor的内存中,然后Sp 阅读全文
posted @ 2017-05-02 15:46 天之涯0204 阅读(8545) 评论(0) 推荐(2) 编辑
摘要: 1、安装logstash,直接解压即可 测试logstash是否可以正常运行 只获取消息 2、编写logstash配置文件2、1在logstash目录下创建conf目录2、2在conf目录下创建文件logstash.conf,内容如下 logstash input: https://www.elas 阅读全文
posted @ 2017-05-02 14:55 天之涯0204 阅读(1388) 评论(0) 推荐(0) 编辑
摘要: flume配置文件 flume_to_kafka.conf kafka 1、启动kafka 2、创建spark topic 启动flume 测试是否可以正常消费到数据 代码实现 阅读全文
posted @ 2017-05-02 11:19 天之涯0204 阅读(1107) 评论(0) 推荐(0) 编辑