分享

Flume内置channel,source,sink三组件介绍

本帖最后由 pig2 于 2014-6-2 02:10 编辑
导读:

1.什么是channel?
2.什么是source?
3.什么是sink?
4.直接读取文件Source,有哪两种方式?
5.Channel有几种方式?
6.Sink在设置存储数据时,数据较多,较少的情况下,该如何处理?



看了一下Flume中央日志系统(版本号:1.3.X),Flume还是一个非常不错的日志收集系统的,其设计理念非常易用,简洁。并且是一个开源项目,基于Java语言开发,可以进行一些自定义的功能开发。运行Flume时,机器必须安装装JDK6.0以上的版本,并且,Flume目前只有Linux系统的启动脚本,没有Windows环境的启动脚本。  
       e6fe38ee-46fe-305a-bbf3-482e27d05a01.png    

Flume主要由3个重要的组件购成:  
Source:完成对日志数据的收集,分成transtion 和 event 打入到channel之中。  
Channel:主要提供一个队列的功能,对source提供中的数据进行简单的缓存。  
Sink:取出Channel中的数据,进行相应的存储文件系统,数据库,或者提交到远程服务器。  

对现有程序改动最小的使用方式是使用是直接读取程序原来记录的日志文件,基本可以实现无缝接入,不需要对现有程序进行任何改动。  
对于直接读取文件Source,有两种方式:  
ExecSource:以运行Linux命令的方式,持续的输出最新的数据,如tail -F 文件名指令,在这种方式下,取的文件名必须是指定的。  
SpoolSource:是监测配置的目录下新增的文件,并将文件中的数据读取出来。
需要注意两点:
1、拷贝到spool目录下的文件不可以再打开编辑。
2、spool目录下不可包含相应的子目录。

在实际使用的过程中,可以结合log4j使用,使用log4j的时候,将log4j的文件分割机制设为1分钟一次,将文件拷贝到spool的监控目录。log4j有一个TimeRolling的插件,可以把log4j分割的文件到spool目录。基本实现了实时的监控。
Flume在传完文件之后,将会修改文件的后缀,变为.COMPLETED(后缀也可以在配置文件中灵活指定)  
ExecSource,SpoolSource对比:
ExecSource可以实现对日志的实时收集,但是存在Flume不运行或者指令执行出错时,将无法收集到日志数据,无法何证日志数据的完整性。SpoolSource虽然无法实现实时的收集数据,但是可以使用以分钟的方式分割文件,趋近于实时。如果应用无法实现以分钟切割日志文件的话,可以两种收集方式结合使用。

Channel有多种方式:
有MemoryChannel,JDBC Channel,MemoryRecoverChannel,FileChannel。MemoryChannel可以实现高速的吞吐,但是无法保证数据的完整性。MemoryRecoverChannel在官方文档的建议上已经建义使用FileChannel来替换。FileChannel保证数据的完整性与一致性。在具体配置不现的FileChannel时,建议FileChannel设置的目录和程序日志文件保存的目录设成不同的磁盘,以便提高效率。  

Sink在设置存储数据时,可以向文件系统中,数据库中,hadoop中储数据,在日志数据较少时,可以将数据存储在文件系中,并且设定一定的时间间隔保存数据。在日志数据较多时,可以将相应的日志数据存储到Hadoop中,便于日后进行相应的数据分析。

更直观的表达,可以参考:认识flume及安装和使用flume1.5


已有(8)人评论

跳转到指定楼层
zhujun182104906 发表于 2015-5-16 17:03:45
回复

使用道具 举报

daozhu 发表于 2016-7-5 23:04:52
好文  多谢
回复

使用道具 举报

QIDOUDOU 发表于 2016-12-2 11:47:28
基础的文章,不错
回复

使用道具 举报

赤渡 发表于 2016-12-24 12:18:19
好文,简明扼要
回复

使用道具 举报

zj220223 发表于 2017-6-20 09:50:01
基础的入门文章
回复

使用道具 举报

spftoto 发表于 2018-7-11 23:59:20
基础的东西
回复

使用道具 举报

spftoto 发表于 2018-7-12 00:02:14
基础文章不错不错
回复

使用道具 举报

Nick_fZ1qq 发表于 2018-11-26 10:51:25
文章写的很好
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /5 下一条