• 使用 Helm3 部署 Loki

    1 为什么选择loki

    https://github.com/grafana/loki

    • 1

    Loki 是 Grafana Labs 团队的开源项目，是一个水平可扩展，高可用性，多租户的日志聚合系统。它的设计非常经济高效且易于操作，因为它不会为日志内容设置索引，而是为每个日志流设置一组标签（就像 Prometheus 标签一样），官方的介绍就是：Like Prometheus, but for logs.，类似于 Prometheus 的日志系统

    在这里插入图片描述
    架构如下
    在这里插入图片描述

    Grafana Loki 主要由 3 部分组成:

    • Loki：主服务，日志记录引擎，负责存储日志和处理查询
    https://github.com/grafana/loki
https://grafana.com/docs/loki/latest/installation/

    • 1
    • 2
    • Promtail：代理服务，负责收集日志并将其发送给 loki
    https://grafana.com/docs/loki/latest/clients/promtail/installation/

    • 1
    • Grafana：UI 界面，通过 Web 界面来提供数据展示、查询、告警等功能。

    2 安装部署

    如果没有安装过 Helm3 请安装

    # 下载二进制包
$ wget https://get.helm.sh/helm-v3.5.2-linux-amd64.tar.gz
# 解压二进制包
$ tar zxf helm-v3.5.2-linux-amd64.tar.gz
# 复制可执行文件
$ cp -pr linux-amd64/helm /usr/local/bin/
# 验证安装是否成功
$ helm --help

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8

    2.1 部署 Loki

    https://grafana.com/docs/loki/latest/installation/simple-scalable-helm/

    • 1

    使用 Helm 将 Loki 部署到 K8s 集群

    # 添加 Loki 的 Chart 仓库
helm repo add grafana https://grafana.github.io/helm-charts
# 更新仓库
helm repo update
# 搜索 loki（Helm2：helm search loki）
root@tjdata05:~# helm search repo loki
NAME                        	CHART VERSION	APP VERSION	DESCRIPTION
grafana/loki                	2.12.2       	v2.5.0     	Loki: like Prometheus, but for logs.
grafana/loki-canary         	0.8.1        	2.5.0      	Helm chart for Grafana Loki Canary
grafana/loki-distributed    	0.49.0       	2.5.0      	Helm chart for Grafana Loki in microservices mode
grafana/loki-simple-scalable	1.4.1        	2.5.0      	Helm chart for Grafana Loki in simple, scalable...
grafana/loki-stack          	2.6.5        	v2.4.2     	Loki: like Prometheus, but for logs.
grafana/fluent-bit          	2.3.1        	v2.1.0     	Uses fluent-bit Loki go plugin for gathering lo...
grafana/promtail            	6.0.0        	2.5.0      	Promtail is an agent which ships the contents o...
root@tjdata05:~#

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15

    • grafana/loki 只有单独的 loki 组件

    • grafana/loki-canary loki 的另外一个组件，主要给 loki 做性能分析

    • grafana/loki-distributed 分布式（微服务）模式

    • grafana/loki-stack loki 的工具栈

    • grafana/fluent-bit 日志收集客户端

    • grafana/promtail loki 自带的日志收集客户端

    获取 loki-stack 的 Chart 包并解压：

    # Helm3 
helm pull grafana/loki-stack --untar --version 2.6.5  # 2.6.5 是 CHART VERSION
# 如果是 Helm2 
helm fetch grafana/loki-stack --untar --version 2.6.5

    • 1
    • 2
    • 3
    • 4

    loki-stack 这个 Chart 包里面包含所有的 Loki 相关工具依赖，在安装的时候可以根据需要开启或关闭。默认情况下 loki、promtail 是自动开启的，也可以根据需要选择使用 filebeat 或者 logstash，同样在 Chart 包根目录下自定义安装的 Values 文件：

    cat values-prod.yaml
loki:
  enabled: true
  replicas: 1
  persistence:
    enabled: true
    storageClassName: ceph-rdb
    accessModes:
      - ReadWriteOnce
    size: 80Gi

promtail:
  enabled: true

grafana:
  enabled: true
  service:
    type: NodePort
  persistence:
    enabled: true
    storageClassName: ceph-rdb
    accessModes:
      - ReadWriteOnce
    size: 10Gi

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24

    然后直接使用上面的 values-prod.yaml文件进行安装即可

    root@tjdata05:~/loki-stack# kubectl create ns logging
namespace/logging created
root@tjdata05:~/loki-stack# helm upgrade --install loki -n logging -f values-prod.yaml .
Release "loki" does not exist. Installing it now.
NAME: loki
LAST DEPLOYED: Fri Jun 24 17:47:04 2022
NAMESPACE: logging
STATUS: deployed
REVISION: 1
NOTES:
The Loki stack has been deployed to your cluster. Loki can now be added as a datasource in Grafana.

See http://docs.grafana.org/features/datasources/loki/ for more detail.
root@tjdata05:~/loki-stack#

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14

    安装完成后可以查看 Pod 的状态

    root@tjdata05:~# kubectl -n logging get pods
NAME                            READY   STATUS    RESTARTS   AGE
loki-0                          1/1     Running   0          6m40s
loki-grafana-5949f69869-6bmrp   2/2     Running   0          6m40s
loki-promtail-8zdpw             1/1     Running   0          6m40s
loki-promtail-9kg4x             1/1     Running   0          6m40s
loki-promtail-9xvw5             1/1     Running   0          6m40s
loki-promtail-k7w4t             1/1     Running   0          6m40s
loki-promtail-qgwcw             1/1     Running   0          6m40s
loki-promtail-r2zzq             1/1     Running   3          6m40s
loki-promtail-tn268             1/1     Running   0          6m40s
loki-promtail-ztqbd             1/1     Running   0          6m40s
loki-promtail-zxv84             1/1     Running   0          6m40s
root@tjdata05:~#

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14

    这里我们为 Grafana 设置的 NodePort 类型的 Service：

    root@tjdata05:~# kubectl -n logging get svc
NAME              TYPE        CLUSTER-IP      EXTERNAL-IP   PORT(S)        AGE
loki              ClusterIP   10.68.236.129   <none>        3100/TCP       7m42s
loki-grafana      NodePort    10.68.111.175   <none>        80:30874/TCP   7m42s
loki-headless     ClusterIP   None            <none>        3100/TCP       7m42s
loki-memberlist   ClusterIP   None            <none>        7946/TCP       7m42s
root@tjdata05:~#

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7

    可以通过 NodePort 端口 30874 访问 Grafana，使用下面的命令获取 Grafana 的登录密码

    kubectl get secret --namespace logging loki-grafana -o jsonpath="{.data.admin-password}" | \
base64 --decode ; echo

# 示例
root@tjdata05:~# kubectl get secret --namespace logging loki-grafana -o jsonpath="{.data.admin-password}" | \
> base64 --decode ; echo
zWWmbfmHkhRBsJONZHiambvgn
root@tjdata05:~#

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8

    使用用户名 admin 和上面的获取的密码即可登录 Grafana，由于 Helm Chart 已经为 Grafana 配置好了 Loki 的数据源，所以我们可以直接获取到日志数据了。点击左侧 Explore 菜单，然后就可以筛选 Loki 的日志数据了：
    在这里插入图片描述
    注意：Loki 默认显示 1000 行

    我们使用 Helm 安装的 Promtail 默认已经帮我们做好了配置，已经针对 K8s 做了优化，并且将 Promtail 配置进行了加密：

    kubectl -n logging get secret loki-promtail -o yaml
# 解密
echo "" | base64 -d

    • 1
    • 2
    • 3

    内容如下

    server:
  log_level: info
  http_listen_port: 3101

client:
  url: http://loki:3100/loki/api/v1/push


positions:
  filename: /run/promtail/positions.yaml

scrape_configs:
  # See also https://github.com/grafana/loki/blob/master/production/ksonnet/promtail/scrape_config.libsonnet for reference
  - job_name: kubernetes-pods
    pipeline_stages:
      - cri: {}
    kubernetes_sd_configs:
      - role: pod
    relabel_configs:
      - source_labels:
          - __meta_kubernetes_pod_controller_name
        regex: ([0-9a-z-.]+?)(-[0-9a-f]{8,10})?
        action: replace
        target_label: __tmp_controller_name
      - source_labels:
          - __meta_kubernetes_pod_label_app_kubernetes_io_name
          - __meta_kubernetes_pod_label_app
          - __tmp_controller_name
          - __meta_kubernetes_pod_name
        regex: ^;*([^;]+)(;.*)?$
        action: replace
        target_label: app
      - source_labels:
          - __meta_kubernetes_pod_label_app_kubernetes_io_component
          - __meta_kubernetes_pod_label_component
        regex: ^;*([^;]+)(;.*)?$
        action: replace
        target_label: component
      - action: replace
        source_labels:
        - __meta_kubernetes_pod_node_name
        target_label: node_name
      - action: replace
        source_labels:
        - __meta_kubernetes_namespace
        target_label: namespace
      - action: replace
        replacement: $1
        separator: /
        source_labels:
        - namespace
        - app
        target_label: job
      - action: replace
        source_labels:
        - __meta_kubernetes_pod_name
        target_label: pod
      - action: replace
        source_labels:
        - __meta_kubernetes_pod_container_name
        target_label: container
      - action: replace
        replacement: /var/log/pods/*$1/*.log
        separator: /
        source_labels:
        - __meta_kubernetes_pod_uid
        - __meta_kubernetes_pod_container_name
        target_label: __path__
      - action: replace
        regex: true/(.*)
        replacement: /var/log/pods/*$1/*.log
        separator: /
        source_labels:
        - __meta_kubernetes_pod_annotationpresent_kubernetes_io_config_hash
        - __meta_kubernetes_pod_annotation_kubernetes_io_config_hash
        - __meta_kubernetes_pod_container_name
        target_label: __path__

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42
    • 43
    • 44
    • 45
    • 46
    • 47
    • 48
    • 49
    • 50
    • 51
    • 52
    • 53
    • 54
    • 55
    • 56
    • 57
    • 58
    • 59
    • 60
    • 61
    • 62
    • 63
    • 64
    • 65
    • 66
    • 67
    • 68
    • 69
    • 70
    • 71
    • 72
    • 73
    • 74
    • 75
    • 76
    • 77

    通过 api 查询 loki 中日志

    root@tjdata05:~# kubectl -n logging get svc
NAME              TYPE        CLUSTER-IP      EXTERNAL-IP   PORT(S)        AGE
loki              ClusterIP   10.68.236.129   <none>        3100/TCP       17h
loki-grafana      NodePort    10.68.111.175   <none>        80:30874/TCP   17h
loki-headless     ClusterIP   None            <none>        3100/TCP       17h
loki-memberlist   ClusterIP   None            <none>        7946/TCP       17h

# 打印当前 loki 中所有的标签
root@tjdata05:~# curl 10.68.236.129:3100/loki/api/v1/labels
{"status":"success","data":["__name__","app","component","container","filename","job","namespace","node_name","pod"]}

# 打印标签（node_name）的值
root@tjdata05:~# curl 10.68.236.129:3100/loki/api/v1/label/node_name/values
{"status":"success","data": # 省略

# 打印标签（pod）的值
root@tjdata05:~# curl 10.68.236.129:3100/loki/api/v1/label/pod/values

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
  • 相关阅读:
    Wireshark的数据包它来啦！
    如何使用adb command来设置cpu频率和核数
    OD华为机试 17
    Element_文件上传&&多个文件上传
    Vue的使用方法
    nginx正反向代理，负载均衡
    21天学Python --- 打卡7:Spider爬虫入门
    P35 JTree树
    win10 系统安装 doker 入门详细教程
    C++广搜例题代码加讲解（1）
  • 原文地址：https://blog.csdn.net/weixin_56752399/article/details/125472638