1.介绍
filebeat和beats的关系
首先filebeat是Beats中的一员。
Beats在是一个轻量级日志采集器，其实Beats家族有6个成员，早期的ELK架构中使用Logstash收集、解析日志，但是Logstash对内存、cpu、io等资源消耗比较高。相比Logstash，Beats所占系统的CPU和内存几乎可以忽略不计。
目前Beats包含六种工具：
Packetbeat：网络数据（收集网络流量数据）
Metricbeat：指标（收集系统、进程和文件系统级别的CPU和内存使用情况等数据）
Filebeat：日志文件（收集文件数据）
Winlogbeat：windows事件日志（收集Windows事件日志数据）
Auditbeat：审计数据（收集审计日志）
Heartbeat：运行时间监控（收集系统运行时的数据）
filebeat是什么
Filebeat是用于转发和集中日志数据的轻量级传送工具。Filebeat监视您指定的日志文件或位置，收集日志事件，并将它们转发到Elasticsearch或 Logstash进行索引。
Filebeat的工作方式如下：启动Filebeat时，它将启动一个或多个输入，这些输入将在为日志数据指定的位置中查找。对于Filebeat所找到的每个日志，Filebeat都会启动收集器。每个收集器都读取单个日志以获取新内容，并将新日志数据发送到libbeat，libbeat将聚集事件，并将聚集的数据发送到为Filebeat配置的输出。
工作的流程图如下：
2.安装
下载镜像
docker pull elastic/filebeat:7.5.1
临时启动启动镜像
docker run -d --name=filebeat elastic/filebeat:7.5.1
拷贝数据文件
docker cp filebeat:/usr/share/filebeat /data/elk7/
chmod 777 -R /data/elk7/
chmod go-w /data/elk7/filebeat.yml
chmod 777 /var/log/messages
编辑filebeat.yml
filebeat.config:
modules:
path: ${path.config}/modules.d/*.yml
reload.enabled: false
processors:
- add_cloud_metadata: ~
- add_docker_metadata: ~
filebeat.inputs:
- type: log
enabled: true
paths:
- /var/log/messages
output.elasticsearch:
hosts: '10.0.42.211:9200'
# username: '${ELASTICSEARCH_USERNAME:}'
# password: '${ELASTICSEARCH_PASSWORD:}'
启动
docker rm -f filebeat
docker run -d \
--name=filebeat \
--restart=always \
--network=host \
-v /data/elk7:/usr/share/filebeat \
-v /var/log/messages:/var/log/messages \
elastic/filebeat:7.5.1
查看
备注
elastic search curl 报错’Content-Type header [application/x-www-form-urlencoded] is not supported’
从 elastic search 6.0 起，就需要显式地声明 content-type ，改成这样就好了:
curl -XPOST -H 'Content-Type: application/json' http://10.0.42.211:9200/filebeat-7.5.1-2022.11.26-000001/_search?pretty=true -d '{"query":{"match_all":{}}}'
