1. 本案例端口监听使用的是netcat,如果使用虚拟机模拟实现,可以先执行yum -y install nc
  2. 自定义flume的配置文件,注意文件名要以.conf结尾
# 定义agent名字 a1
# 定义sources、channels、sinks  都可以有多个,空格隔开
a1.sources = r1
a1.channels = c1
a1.sinks = k1

# 定义source类型
a1.sources.r1.type = netcat
# 绑定source地址
a1.sources.r1.bind = hadoop01
# 绑定端口
a1.sources.r1.port = 6666

# 定义channel类型
a1.channels.c1.type = memory
# 定义channel中event的数量限制(可选,默认100)
a1.channels.c1.capacity = 1000

# 定义sink类型
a1.sinks.k1.type = logger

# 绑定source和channel 一个source可以对应多个channel
a1.sources.r1.channels = c1
# 绑定sink和channel  一个sink只能对应一个channel,一个channel可以对应多个sink
a1.sinks.k1.channel = c1
  1. 在flume所在节点输入执行命令
    $FLUME_HOME/bin/flume-ng agent --name 上面定义的agent名字 –conf $FLUME_HOME/conf/ –conf-file 上面定义的文件存放路径+文件名
    其中–name可以写作-n,–conf 可以写在-c ,–conf-file可以写作-f。
    比如:
$FLUME_HOME/bin/flume-ng agent --name a1 --conf  $FLUME_HOME/conf/ --conf-file $FLUME_HOME/datas/ncSource_loggerSink.conf -Dflume.root.logger=INFO,console

-Dflume.root.logger=INFO,console:表示将日志级别为INFO的信息打印到控制台
4. 监听source的指定端口
nc ip地址 端口号
比如:我上面的文件中定义的地址是hadoop01 端口是6666
nc hadoop01 6666

Logo

华为开发者空间,是为全球开发者打造的专属开发空间,汇聚了华为优质开发资源及工具,致力于让每一位开发者拥有一台云主机,基于华为根生态开发、创新。

更多推荐