• 欢迎访问蜷缩的蜗牛博客 蜷缩的蜗牛
  • 微信搜索: 蜷缩的蜗牛 | 联系站长 kbsonlong@qq.com
  • 如果您觉得本站非常有看点,那么赶紧使用Ctrl+D 收藏吧

Filebeat 日志收集器 logstash-forwarder 的替代品(18th)

ELK 蜷缩的蜗牛 9个月前 (01-16) 158次浏览 已收录

Filebeat 是一个开源的文件收集器,主要用于获取日志文件,并把它们发送到 logstash 或 elasticsearch。与 libbeat lumberjack 一起替代 logstash-forwarder。

在 logstash-forwarder 项目上,看到下面一些信息“The filebeat project replaces logstash-forwarder. Please use that instead.No further development will occur on this project. Major bug fixes or security fixes may be worked on through 2016, at which point this repository and its project will be abandoned.The replacement is filebeat which receives new features and fixes frequently. ”

说明了啥?简单而言 logstash-forwarder 寿终正寝了,将由 filebeat 替代了。

前面一文《ELK 部署指南》是用 logstash-forwarder 来收集日志的,当时刚刚研究 ELK,没有细读文档,凭借之前的了解来研究的。后面将 logstash-forwarder 换成 filebeat,请关注。

filebeat 介绍

filebeat 最初是基于 logstash-forwarder 源码的日志数据 shipper。Filebeat 安装在服务器上作为代理来监视日志目录或特定的日志文件,要么将日志转发到 Logstash 进行解析,要么直接发送到 Elasticsearch 进行索引。

Filebeat 架构如下:

Elasticsearch

安装 Filebeat

deb:

rpm:

mac:

配置 Filebeat

filebeat 默认预定了适应大部分场景的配置参数。对于最基本的 Filebeat 配置,可以定义一个单一路径的单一 prospector,如:

该配置将获取/va/log/目录下的所有以.log 结尾的文件。

如果要获取子目录下的所有文件可以这么设置/var/log/*/*.log。只会收集到/var/log/目录的子目录以.log 结尾的文件,不包括 /var/log 自身目录下的以.log 结尾的文件。同时,也不会递归的去获取子目录的子目录下的文件。

一个配置文件可以包含多个 prospector 和每个 prospector 多个路径,如:

该配置文件启动两个 prospector,第一个 prospector 具有两个 harvester,一个获取 system.log 文件另一个获取 wifi.log 文件。第二个 prospector 启动一个 harvester 获取/var/log/apache 目录下的每个文件。

向 Elasticsearch 加载索引模板

在启动 filebeat 之前,需要向 elasticsearch 加载索引模板,以让 Elasticsearch 知道哪些字段应以何种方式进行分析。

推荐的模板文件已经由 Filebeat 软件包提供,使用下面的命令进行加载:

es 地址换成你自己的。

导出的字段

由 Filebeat 导出的字段,包括下面两类:

  • Common Fields
  • Log File Content Fields

common fields

包含所有事件可用的类型。

  1. shipper
    类型:字符串
  2. @timestamp
    类型:日期
    例如:2015 年 1 月 24 日 14:06:05.071000
    格式:YYYY-MM-DDTHH:MM:SS.milliZ
    必须:是
    日志读取的时间戳。精度为毫秒。时区是 UTC。
  3. type
    必须:是
    日志事件的名称,设置为 prospectors document_type 配置选项。
  4. input_type
    必须:是

Log File Content Fields

包含日志文件行。

  1. source
    类型:字符串
    必须:是
  2. offset
    类型:int
    必须:否
  3. line
    类型:int
    必须:是
  4. message
    类型:字符串
    必须:是
  5. fields Fields
    包含用户可配置的领域。
  6. fileinfo Fields
    操作系统特定文件的信息用于标识源文件。例如在Linux上 inode 可能会报告。

配置选项

Filebeat 的配置文件使用 YAML 格式。配置前看看默认设置以及描述信息。filebeat.yml 包含下面几个部分:

  • Shipper
  • Output
  • Filebeat
  • Logging (optional)
  • Run options (optional)

具体请看文档:https://www.elastic.co/guide/en/beats/filebeat/current/filebeat-configuration-details.html

https://www.elastic.co/guide/en/beats/libbeat/1.0.0-rc1/configuration.html#configuration

命令行选项

所有的配置参数需要写入到配置文件中。

本文转载自 Filebeat 日志收集器 logstash-forwarder 的替代品(18th)


蜷缩的蜗牛 , 版权所有丨如未注明 , 均为原创丨 转载请注明Filebeat 日志收集器 logstash-forwarder 的替代品(18th)
喜欢 (0)
[]
分享 (0)