由于容器的特性，在容器重新创建后日志会废弃掉，如何通过持久化和中心化的处理容器日志变成一个棘手的问题，如何通过 Elastic Stack 进行一站式的数据采集，数据清洗，数据落地，数据可视化，让数据发挥真正的价值呢？
架构设计
涉及到 Elastic Stack 中 Filebeat 是用于采集 Kubernetes Pod 相关的日志，Elasticsearch 是用于对于数据落地存储和搜索的引擎， Kibana 是用于对数据可视化的工具。
在 Docker 中容器的日志是存储在/var/lib/docker/containers/ 目录下的，目录下的每一个文件夹为容器ID，容器ID目录下的 log 类型文件则为容器的日志文件。
而 Kubernetes 针对其采集时使用的是 DaemonSet 的方式，在每一个 Node 节点上都启动一个 Filebeat 针对当前的节点进行容器日志的收集。
实施方法
创建 DaemonSet 类型的控制器去在每一个 Node 节点上启动 Pods，Pods中放入 Filebeat 的容器并且映射的宿主机上的容器日志目录进行日志的采集。
apiVersion: apps/v1
kind: DaemonSet
metadata:
labels: app: filebeat
name: filebeat-daemonset
spec:
selector: matchLabels: app: filebeat
template: metadata: labels: app: filebeat spec: containers: - name: filebeat-daemonset image: 'elastic/filebeat:7.9.2' securityContext: runAsUser: 0 volumeMounts: - mountPath: /usr/share/filebeat/filebeat.yml name: volume-configmap subPath: filebeat.yml - mountPath: /var/lib/docker/containers name: volume-containerlog volumes: - name: volume-configmap configMap: defaultMode: 420 name: filebeat-configmap - name: volume-containerlog hostPath: path: /var/lib/docker/containers
---
apiVersion: v1
data:
filebeat.yml: |- filebeat.config: modules: path: ${path.config}/modules.d/*.yml reload.enabled: false processors: - add_cloud_metadata: ~ - add_docker_metadata: ~ filebeat.inputs: - type: docker containers: path: "/var/lib/docker/containers" json.keys_under_root: true ids: - "*" output.elasticsearch: hosts: ["elasticsearch-service:9200"] username: "elastic" password: "xxx" setup.kibana: host: "kibana-service:5601"
kind: ConfigMap
metadata:
name: filebeat-configmap
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
- 30
- 31
- 32
- 33
- 34
- 35
- 36
- 37
- 38
- 39
- 40
- 41
- 42
- 43
- 44
- 45
- 46
- 47
- 48
- 49
- 50
- 51
- 52
- 53
- 54
- 55
- 56
- 57
- 58
- 59
- 60
- 61
进入 Pods 修改配置
docker exec -it filebeat-daemonset-xxx /bin/bash
设置 Filebeat 创建 Kibana上的 Index Pattern 和 Dashboard
filebeat setup
可视化展示
通过 Kibana 中的 Discover 功能
文章来源: yekangming.blog.csdn.net，作者：叶康铭，版权归原作者所有，如需转载，请联系作者。
原文链接：yekangming.blog.csdn.net/article/details/109182335