work hard work smart

专注于Java后端开发。 不断总结,举一反三。
随笔 - 1158, 文章 - 0, 评论 - 153, 阅读 - 186万
  博客园  :: 首页  :: 新随笔  :: 联系 :: 订阅 订阅  :: 管理
< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5

Flume安装

Posted on   work hard work smart  阅读(68)  评论(0编辑  收藏  举报

1、下载Flume

版本为apache-flume-1.9.0-bin

链接:https://pan.baidu.com/s/1dSJhZBb6Rz__WYNhM2HzkQ 

提取码:1234

2、解压配置

解压后,将conf目录下的flume-env.sh.template复制并改名为flume-env.sh

 

修改flume-env.sh的JDK路径

export JAVA_HOME=/xx/jdk/jdk1.8.0_201

 

3、在conf文件夹下创建netcat-logger.conf

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
# 定义这个agent中各组件的名字,给那三个组件sources,sinks,channels取个名字,是一个逻辑代号:
# a1是agent的代表。
a1.sources = r1
a1.sinks = k1
a1.channels = c1
 
# type是类型,是采集源的具体实现,这里是接受网络端口的,netcat可以从一个网络端口接受数据的。
# bind绑定本机IP(如果配置了hosts映射,那么可以填主机名)。port端口号为444。
a1.sources.r1.type = netcat
a1.sources.r1.bind = 0.0.0.0
a1.sources.r1.port = 444
   
# type,下沉类型,使用logger,将数据打印到屏幕上面。
 
a1.sinks.k1.type = logger
 
# type类型是内存memory。
# capacity:默认该通道中最大的可以存储的event数量,1000是代表1000条数据。
# trasactionCapacity:每次最大可以从source中拿到或者送到sink中的event数量。
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100
 
# 将sources和sinks绑定到channel上面。
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1

 

4、运行flume  

1
bin/flume-ng agent --conf conf --conf-file conf/netcat-logger.conf --name a1 -Dflume.root.logger=INFO,console

  

5、验证:

在window下telnet IP port,然后发送数据

 

 flume接收到的数据

 

 

参考:

1、 https://blog.csdn.net/ruiqu1650914788/article/details/124993210

2、 https://zhuanlan.zhihu.com/p/511455862

 

相关博文:
阅读排行:
· Manus重磅发布:全球首款通用AI代理技术深度解析与实战指南
· 被坑几百块钱后,我竟然真的恢复了删除的微信聊天记录!
· 没有Manus邀请码?试试免邀请码的MGX或者开源的OpenManus吧
· 园子的第一款AI主题卫衣上架——"HELLO! HOW CAN I ASSIST YOU TODAY
· 【自荐】一款简洁、开源的在线白板工具 Drawnix
历史上的今天:
2020-03-22 Zuul整合Hystrix断路器
2020-03-22 Zuul核心-预定义Filter
2020-03-22 Feign性能优化
2020-03-22 Feign整合Ribbon负载均衡
2020-03-22 Java基础十、Spring Boot /Spring Cloud
点击右上角即可分享
微信分享提示