流处理过程的问题

基于Spark Streaming&Flume&Kafka打造通用流处理平台

• 整合日志输出到Flume
• 整合Flume到Kafka
• 整合Kafka到Spark Streaming
• Spark Streaming对接收到的数据进行处理

---

异常: java.lang.ClassNotFoundException: org.apache.flume.clients.log4jappender.Log4jAppender 在pox.xml中添加依赖:如下 G org.apache.flume.flume-ng-clients A flume-ng-log4jappender V 1.6.0

---

logger.info("current value is : " + index ++); logger.info("current : " + index ++);

上面的字符串,要短一点,不然,不能看到index的值

---

flume对接kafka

1. 启动kafka后台服务
2. 启动flume的kafka对应配置文件
3. 启动kafka消费者
4. 在IDEA中启动程序
5. 在kafka中查看结果

步骤一步都不能错,尤其是1,2,3