流处理过程的问题

基于Spark Streaming&Flume&Kafka打造通用流处理平台

  • 整合日志输出到Flume
  • 整合Flume到Kafka
  • 整合Kafka到Spark Streaming
  • Spark Streaming对接收到的数据进行处理

异常: java.lang.ClassNotFoundException: org.apache.flume.clients.log4jappender.Log4jAppender 在pox.xml中添加依赖:如下 G org.apache.flume.flume-ng-clients A flume-ng-log4jappender V 1.6.0

logger.info("current value is : " + index ++); logger.info("current : " + index ++);

上面的字符串,要短一点,不然,不能看到index的值

flume对接kafka

  1. 启动kafka后台服务
  2. 启动flume的kafka对应配置文件
  3. 启动kafka消费者
  4. 在IDEA中启动程序
  5. 在kafka中查看结果

步骤一步都不能错,尤其是1,2,3

posted @ 2019-04-30 17:27  BBBone  阅读(245)  评论(0)  编辑  收藏  举报