李小萌资源网 大数据云计算 Flume日志收集利器视频教程 Flume视频教程分布式的海量日志采集 云计算视频教程


Flume日志收集利器视频教程 Flume视频教程分布式的海量日志采集 云计算视频教程

2019-08-22 1554
默然
资源介绍

Flume日志收集利器视频教程 Flume视频教程分布式的海量日志采集 云计算视频教程

课程介绍:

Flume是Cloudera提供的一个高可用的,高可靠的,分布式的海量日志采集、聚合和传输的系统,Flume支持在日志系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理,并写到各种数据接受方(可定制)的能力。

当前Flume有两个版本Flume 0.9X版本的统称Flume-og,Flume1.X版本的统称Flume-ng。由于Flume-ng经过重大重构,与Flume-og有很大不同,使用时请注意区分。

课程目录

1flume简介-基础知识

讲述flume的基础知识包括flume的基本概念和核心组件。flume是一个分布式、可靠、高可用的海量日志聚合系统,支持在系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据的简单处理,并写到各种数据接收方的能力。

2 flume安装与测试

讲述flume安装与测试,主要包括flume单机安装与测试、flume集群安装与测试、Arvo环境的搭建以及安装过程中的一些异常的解决方案讲解。

3 flume部署方式

讲述flume部署种类、流配置。其中详细讲解了单一代理、多代理、多路复用流的配置说明。

4 flume source相关配置及测试

讲述flume source相关的配置和案例分析,包括了Avro Source配置、Thrift Source配置、Exec Source配置、JMS Source配置、NetCat Source配置、Spooling Directory Source配置、Sequence Generator Source配置、Syslog TCP Source配置、Multiport Syslog TCP Source配置、Syslog UDP Source配置、Http Source配置、Custom Source配置。

5 flume sink相关配置及测试

讲述flume sink相关的配置以及flume channel配置和案例分析,包括了HDFS Sink配置、Logger Sink配置、Avro Sink配置、Thrift Sink配置、IRC Sink配置、File Roll Sink配置、Null Sink配置、Hbase Sink配置、AsyncHbase Sink配置、Custom Sink配置;Memory Channel配置、JDBC Channel配置、File Channel配置、Pseudo Transaction Channel配置、Custom Channel配置。

6 flume selector 相关配置与案例分析

讲述 flume selector相关配置和案例分析,包括了Replicating Channel Selector配置、Multiplexing Channel Selector配置、Custom Channel Selector配置。

7 Flume Sink Processors相关配置和案例分析

讲述 Flume Sink Processors相关配置和案例分析,包括了Default Sink Processor配置、Failover Sink Processor配置、Load balancing Sink Processor配置。

8Flume Interceptors相关配置和案例分析

讲述 Flume Event Serializers、Flume Interceptors相关配置和案例分析,包括了Body Text Serializer配置、Avro Text Serializer配置、Timestamp Interceptor配置、Host Interceptor配置、Static Interceptor配置、Regex Filtering Interceptor配置。

9 Flume RPC Client开发

讲述如何进行 flume RPC Client开发,这个是在通常应用中使用的较多的一种方式。

10Flume Sink和Flume Source开发

讲述如何进行 flume Sink、flume Source开发。





百度网盘可以用手机平板电脑在线播放,也可以下载之后播放

本帖资源评论
没有账号? 注册