• 轻量级日志系统——Loki

    目录

    一、loki简介

    二、Loki 快速上手

    第一步安装 Loki

     第二步安装 Promtail

    第三步安装granafa

    三、LogQL 语法 

     四、Loki收集nginx日志

    1、修改nginx配置

    2、nginx服务器上安装promtail

    3、添加doshbarod 

    一、loki简介

            Loki是 Grafana Labs 团队最新的开源项目，是一个水平可扩展，高可用性，多租户的日志聚合系统。它的设计非常经济高效且易于操作，因为它不会为日志内容编制索引，而是为每个日志流编制一组标签。项目受 Prometheus 启发，官方的介绍就是： Like Prometheus, but for logs ，类似于 Prometheus 的日志系统。

    二、Loki 快速上手

            Loki 作为日志系统的后起之秀，设计上可以说非常优秀，设计的理念就是为了让日志聚合更简单，它被设计为非常经济高效且易于操作。它不索引日志的内容，而是为每个日志流设置一组标签。它主要由三部分组成。
    与其他日志聚合系统相比， Loki 具有下面的一些特性：
    不对日志进行全文索引。通过存储压缩非结构化日志和仅索引元数据， Loki 操作起来会更简
    单，更省成本。
    通过使用与 Prometheus 相同的标签记录流对日志进行索引和分组，这使得日志的扩展和操
    作效率更高。
    特别适合储存 Kubernetes Pod 日志 ; 诸如 Pod 标签之类的元数据会被自动删除和编入索引

    各日志收集组件简单对比

    名称
    安装的组件
    优点
    ELK/EFK
    elasticsearch 、 logstash ，
    kibana 、 filebeat 、 kafka/redis
    支持自定义 grok 正则解析复杂日志内容；
    dashboard 支持主富的可视化展示
    Loki
    grafana 、 loki 、 promtail
    占用资源小； grafana 原生支持；查询速度快

     官方地址：https://grafana.com/oss/loki/

    文档地址： https://grafana.com/docs/grafana/latest/features/datasources/loki/
    git 地址： https://github.com/grafana/loki/blob/master/docs/README.md
    下载地址： Releases · grafana/loki (github.com)

    第一步安装 Loki

    简单介绍下 Loki ：
    Grafana Loki 是一个日志聚合工具，它是功能齐全的日志堆栈的核心。
    Loki 是一个为有效保存日志数据而优化的数据存储。日志数据的高效索引将 Loki 与其他日志系统区分开来，
    与其他日志系统不同， Loki 索引是根据标签构建的，原始日志消息未编入索引。 
    1. yum install -y https://github.com/grafana/loki/releases/download/v2.9.8/loki-2.9.8.x86_64.rpm
    2.  
    3. # 配置文件详解
    4. [root@k8s-master01 ~]# cat /etc/loki/config.yml 
    5. auth_enabled: false
    6.  
    7. server:
    8.   http_listen_port: 3100    #http访问端口
    9.   grpc_listen_port: 9096    #rpc访问端口
    10.  
    11. common:
    12.   instance_addr: 192.168.186.100    #修改为自己的IP或localhost
    13.   path_prefix: /tmp/loki
    14.   storage:
    15.     filesystem:
    16.       chunks_directory: /tmp/loki/chunks    #记录块存储目录，默认chunks块上的日志数量或
    17. 到期后，将chunks数据打标签后存储
    18.       rules_directory: /tmp/loki/rules    #规则配置目录
    19.   replication_factor: 1
    20.   ring:
    21.     kvstore:
    22.       store: inmemory
    23.  
    24. query_range:        #查询规则
    25.   results_cache:    #结果缓存
    26.     cache:
    27.       embedded_cache:    #默认开启后会有提示，未配置缓存项，可以暂不开启
    28.         enabled: true
    29.         max_size_mb: 100
    30.  
    31. schema_config:    #配置索引信息
    32.   configs:
    33.     - from: 2020-10-24
    34.       store: boltdb-shipper
    35.       object_store: filesystem
    36.       schema: v11
    37.       index:
    38.         prefix: index_    #索引前缀
    39.         period: 24h        #索引时长
    40.  
    41. ruler:
    42.   alertmanager_url: http://localhost:9093
    43.  
    44. # By default, Loki will send anonymous, but uniquely-identifiable usage and configuration
    45. # analytics to Grafana Labs. These statistics are sent to https://stats.grafana.org/
    46. #
    47. # Statistics help us better understand how Loki is used, and they show us performance
    48. # levels for most users. This helps us prioritize features and documentation.
    49. # For more information on what's sent, look at
    50. # https://github.com/grafana/loki/blob/main/pkg/usagestats/stats.go
    51. # Refer to the buildReport method to see what goes into a report.
    52. #
    53. # If you would like to disable reporting, uncomment the following lines:
    54. #analytics:
    55. #  reporting_enabled: false
    56.  
    57. # 启动服务
    58. systemctl enable --now loki

     第二步安装 Promtail

    1. yum install -y https://github.com/grafana/loki/releases/download/v2.9.8/promtail-2.9.8.x86_64.rpm
    2.  
    3. # 配置文件详解 /etc/promtail/config.yml
    4. [root@k8s-master01 ~]# cat /etc/promtail/config.yml 
    5. # This minimal config scrape only single log file.
    6. # Primarily used in rpm/deb packaging where promtail service can be started during system init process.
    7. # And too much scraping during init process can overload the complete system.
    8. # https://github.com/grafana/loki/issues/11398
    9.  
    10. server:
    11.   http_listen_port: 9080
    12.   grpc_listen_port: 0
    13.  
    14. positions:
    15.   filename: /tmp/positions.yaml    #用于记录每次读取日志文件的索引行数，如：promtail重启后从该配置中恢复日志文件的读取位置
    16.  
    17. clients:
    18. - url: http://192.168.186.100:3100/loki/api/v1/push    #推送日志流到Loki中的api
    19.  
    20. scrape_configs:        #发现日志文件的位置并从中提取标签
    21. - job_name: system    #任务名称
    22.   static_configs:    # 目录配置
    23.   - targets:        # 标签
    24.       - localhost
    25.     labels:
    26.       job: varlogs    #子任务名称，通常以项目命令
    27.       #NOTE: Need to be modified to scrape any additional logs of the system.
    28.       __path__: /var/log/messages    #要读取的日志文件的位置，允许使用通配符/*log或/**/*.log
    29.   - targets:
    30.       - localhost
    31.     labels:
    32.       job: securelogs
    33.       #NOTE: Need to be modified to scrape any additional logs of the system.
    34.       __path__: /var/log/secure         # 定义不同的日志文件路径
    35.  
    36. #赋予权限
    37. [root@k8s-master01 ~]# setfacl -m u:promtail:r /var/log/secure 
    38. [root@k8s-master01 ~]# setfacl -m u:promtail:r /var/log/messages 
    39.  
    40.  
    41. # 启动服务
    42. systemctl enable --now promtail
    43. # 检查 promtial 配置
    44. http://IP:9080/targets

    第三步安装granafa

    1. yum install -y https://dl.grafana.com/enterprise/release/grafana-enterprise-
    2. 10.0.2-1.x86_64.rpm
    3. # 启动服务
    4. systemctl enable --now grafana-server
    访问 granafa http://IP:3000 默认用户密码为 admin
    修改语言和时区

    添加完成后点击保存
    保存完成后，切换到 grafana 左侧区域的 Explore ，即可进入到 Loki 的页面：

    三、LogQL 语法 

    选择器
    对于查询表达式的标签部分，将放在 {} 中，多个标签表达式用逗号分隔：
    {app="mysql",name="mysql-backup"}
    支持的符号有：
    = ：完全相同。
    != ：不平等。
    =~ ：正则表达式匹配。
    !~ ：不要正则表达式匹配。
    过滤表达式
    编写日志流选择器后，您可以通过编写搜索表达式进一步过滤结果。搜索表达式可以文本或正则表达式。 如
    {job=“mysql”} |= “error”
    {name=“kafka”} |~ “tsdb-ops.*io:2003”
    {instance=~“kafka-[23]”,name=“kafka”} != kafka.server:type=ReplicaManager
    支持多个过滤：
    {job=“mysql”} |= “error” != “timeout”
    目前支持的操作符
    |= line 包含字符串。
    != line 不包含字符串。
    |~ line 匹配正则表达式。
    !~ line 与正则表达式不匹配。

     四、Loki收集nginx日志

    为了方便grafana dashbord展示，我们把日志格式修改为json

    1、修改nginx配置

    vim nginx.conf ，增加如下配置： 
    1. log_format json escape=json '{'
    2.                                                         '"remote_addr": "$remote_addr", '
    3.                                                         '"request_uri": "$request_uri", '
    4.                                                         '"request_length": "$request_length", '
    5.                                                         '"request_time": "$request_time", '
    6.                                                         '"request_method": "$request_method", '
    7.                                                         '"status": "$status", '
    8.                                                         '"body_bytes_sent": "$body_bytes_sent", '
    9.                                                         '"http_referer": "$http_referer", '
    10.                                                         '"http_user_agent": "$http_user_agent", '
    11.                                                         '"http_x_forwarded_for": "$http_x_forwarded_for", '
    12.                                                         '"http_host": "$http_host", '
    13.                                                         '"server_name": "$server_name", '
    14.                                                         '"upstream": "$upstream_addr", '
    15.                                                         '"upstream_response_time":                                                      "$upstream_response_time", '
    16.                                                         '"upstream_status": "$upstream_status", '
    17.                                                         #'"geoip_country_code": "$geoip2_data_country_code", '
    18.                                                         #'"geoip_country_name": "$geoip2_data_country_name", '
    19.                                                         #'"geoip_city_name": "$geoip2_data_city_name"'
    20.                                                         '}';
    21.     access_log  /var/log/nginx/json_access.log json;
    22.  
    23. 参数 描述
    24. remote_addr 客户端的IP地址
    25. request_uri 客户端请求的URI
    26. request_length 请求的内容长度
    27. request_time 请求处理时间
    28. request_method 请求方法（GET、POST等）
    29. status HTTP响应状态码
    30. body_bytes_sent 发送给客户端的字节数
    31. http_referer 请求中的Referer头部
    32. http_user_agent 客户端的User-Agent头部
    33. http_x_forwarded_for X-Forwarded-For头部，客户端真实IP
    34. http_host 请求的Host头部
    35. server_name 服务器名称
    36. upstream 后端服务器的地址
    37. upstream_response_time 后端服务器响应时间
    38. upstream_status 后端服务器响应的HTTP状态码
    39. geoip_country_code GeoIP国家代码（已注释）
    40. geoip_country_name GeoIP国家名称（已注释）
    41. geoip_city_name GeoIP城市名称（已注释）

    2、nginx服务器上安装promtail

    yum install -y https://github.com/grafana/loki/releases/download/v2.9.8/promtail- 2.9.8.x86_64.rpm

    [root@k8s-node02 ~]# cat /etc/promtail/config.yml 
    # This minimal config scrape only single log file.
    # Primarily used in rpm/deb packaging where promtail service can be started during system init process.
    # And too much scraping during init process can overload the complete system.
    # https://github.com/grafana/loki/issues/11398

    server:
      http_listen_port: 9080
      grpc_listen_port: 0

    positions:
      filename: /tmp/positions.yaml

    clients:
    - url: http://192.168.186.100:3100/loki/api/v1/push

    scrape_configs:
    - job_name: nginx
      static_configs:
      - targets:
          - localhost
        labels:
          job: nginxlogs
          host: 192.168.186.100
          #NOTE: Need to be modified to scrape any additional logs of the system.
          __path__: /var/log/nginx/*.log

    # 注意，日志目录权限
    [root@localhost ~] # setfacl -R -m u:promtail:rx /var/log/nginx/
    [root@localhost ~] # systemctl restart promtail

    3、添加doshbarod 

    id ： 16101
  • 相关阅读:
    聚类算法评价指标——基于DBI指数的k-means算法（python代码）
    二叉树详解(求二叉树的结点个数、深度、第k层的个数、遍历等)
    Go语言学习笔记—golang操作MySQL数据库
    C++ Tutorials: C++ Language: Compound data types: Data structures
    NI Package Manager创建程序包
    Flutter 应用程序性能优化建议
    autox.js的三个版本universal、armeabi-v7a、arm64-v8a的区别
    Mysql_13 事务
    ArcGIS笔记8_测量得到的距离单位不是米？一经度一纬度换算为多少米？
    1.wifi开发，wifi连接初次连接电脑没有识别，如何向esp8266中烧写代码，共享文件夹的创建
  • 原文地址：https://blog.csdn.net/wzpny/article/details/139833234