• 测试开发技能实践-搭建ELK日志管理系统


    前言

    随着测试人员代码能力的不断增强,现在越来越多的测试工程师转向了测试开发岗位,用代码来解决测试中的效率问题。可以看到几乎现在所有的测试部门都在搞平台化,接口测试平台、性能测试平台等等。

    当你开发一个测试平台的时候,日志是其中很重要的一个组成部分,通常来说,日志都是写到日志文件中的。但是很多时候,当项目出现一些问题时,你就需要去日志中查找一些关键信息,这个时候,你可能面临这些问题:

    不确定日志是哪一天记录的,找不到对应的日志文件

    日志文件内容过多,无法快速搜索出指定的日志信息

    在集群环境下,不确定日志记录在哪一台服务器上

    因此,传统形式的日志存储和搜索就会面临越来越多的效率问题。可不可以有一套日志管理系统,集成了日志收集、存储、展示功能,来解决目前存在的日志查看效率低下、缺少可视化界面等问题,ELK就是在这种场景下诞生了。

    01
    ELK简介

    ELK:ElasticSerach、Logstash、Kibana三款产品名称的首字母集合,用于日志的搜集和搜索。简单地理解为我们可以把服务端的日志(如nginx、tomcat等)直接web化展示查看,十分方便。

    以下就以Tomcat为例,将tomcat的catalina.out中的日志展示在ELK平台中。

    1.1 ELK部署架构
    图片

    1.2 ELK工作流程

    1. 业务请求到达tomcat,并记录日志到catalina.out文件中;
    2. FileBeat搜集catalina.out中新增的日志,通过LogStash的5044端口上传日志;
    3. LogStash将日志信息通过本机的9200端口传入到ElasticSerach;
    4. Kibana通过9200端口访问ElasticSerach;
    5. 用户通过浏览器访问Kibana,进行日志搜索

    1.3下载ELK全套安装包
    官网下载:https://www.elastic.co/cn/start

    02
    ELK环境搭建

    2.1 java环境配置
    因为ElasticSerach运行需要java环境支持,所以首先要配置java环境,比较简单,具体方法可以自行百度。

    2.2 修改系统最大链接数
    1、修改Linux系统允许创建最大的连接数

    vi /etc/security/limits.conf

    在最后一行添加:

    • soft nofile 1000000

    • hard nofile 1000000

    2、保存文件,退出当前会话,重新登录系统。

    3、执行ulimit -n查看是否生效,如果显示1000000则代表修改成功。

    2.3 安装elasticsearch
    1、将elasticsearch的安装包解压

    2、因为elasticsearch不允许用root用户启动,所以先创建非root用户

    创建es用户组:group add es
    创建es用户:user add es -g es
    修改elasticsearch目录为es用户:chown -R es:es elasticsearch-6.6.0

    3、进入到elasticsearch的bin目录下,执行启动命令:

    ./elasticsearch -d

    4、执行命令,检查es是否启动成功

    curl http://localhost:9200

    有如下信息,代表启动成功

    图片

    5、安装完毕后,切换回root用户

    su root

    2.4 安装logstash
    1、解压logstash

    2、配置logstash

    logstash的config目录下,创建default.conf,配置好输入和输出信息,内容如下:

    监听5044端口作为输入

    input {

    beats {

    port => "5044"
    
    client_inactivity_timeout => 36000
    
    • 1
    • 2
    • 3

    }

    }

    数据过滤

    filter {}

    输出配置为本机的9200端口,这是ElasticSerach服务的监听端口

    output {

    elasticsearch {

    hosts => ["127.0.0.1:9200"]
    
    • 1

    }

    }

    3、在bin目录下启动logstash

    nohup ./logstash -f …/config/default.conf &

    2.5 安装Kibana
    1、解压kibana

    2、修改config目录下的kibana.yml

    图片

    打开server.host的注释,修改ip为0.0.0.0

    3、启动kibana

    在kibana的bin目录下,执行命令启动

    nohup ./kibana &

    4、访问kibana

    在浏览器中输入http://{ip}:5601,如果能看到kibana页面,代表部署成功

    2.6 安装Filebeat
    1、解压filebeat

    2、修改配置文件filebeat.yml

    图片

    enabled设置为true
    paths下设置为监控的日志文件

    图片

    hosts:logstash的部署ip和端口号

    3、启动filebeat

    nohup ./filebeat -e -c filebeat.yml &

    03
    使用kibana查看日志

    1、浏览器打开http://{kibana部署ip}:5601

    2、调用Tomcat中的web项目,产生业务日志

    3、点击kibana中的"Discover",就可以看到es中保存的业务日志数据

    图片

  • 相关阅读:
    【Pytorch with fastai】第 6 章 :其他计算机视觉问题
    阿拉伯数字转汉子数字
    Android---底部弹窗之BottomSheetDialog
    Easysearch压缩模式深度比较:ZSTD+source_reuse的优势分析
    利用Nginx实现免上传安装zabbix agent
    浅析倾斜摄影三维模型(3D)几何坐标精度偏差的几个因素
    如何安全的进行数据获取!!
    Burp suite遇到的常见问题
    c语言之strlen函数使用和实现
    tcpdump使用大全
  • 原文地址:https://blog.csdn.net/Testfan_zhou/article/details/126358910