• Logback 配置文件这样优化,TPS提高 10 倍


    01、通过阅读本篇文章将了解到

    • 1.日志输出到文件并根据LEVEL级别将日志分类保存到不同文件

    • 2.通过异步输出日志减少磁盘IO提高性能

    • 3.异步输出日志的原理

    02、配置文件logback-spring.xml

    SpringBoot工程自带logbackslf4j的依赖,所以重点放在编写配置文件上,需要引入什么依赖,日志依赖冲突统统都不需要我们管了。logback框架会默认加载classpath下命名为logback-springlogback的配置文件。将所有日志都存储在一个文件中文件大小也随着应用的运行越来越大并且不好排查问题,正确的做法应该是将error日志和其他日志分开,并且不同级别的日志根据时间段进行记录存储。

    1. <?xml version="1.0" encoding="utf-8"?>
    2. <configuration>
    3.     <property resource="logback.properties"/>
    4.     <appender name="CONSOLE-LOG" class="ch.qos.logback.core.ConsoleAppender">
    5.         <layout class="ch.qos.logback.classic.PatternLayout">
    6.             <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>
    7.         </layout>
    8.     </appender>
    9.     <!--获取比info级别高(包括info级别)但除error级别的日志-->
    10.     <appender name="INFO-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender">
    11.         <filter class="ch.qos.logback.classic.filter.LevelFilter">
    12.             <level>ERROR</level>
    13.             <onMatch>DENY</onMatch>
    14.             <onMismatch>ACCEPT</onMismatch>
    15.         </filter>
    16.         <encoder>
    17.             <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>
    18.         </encoder>
    19.         <!--滚动策略-->
    20.         <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">
    21.             <!--路径-->
    22.             <fileNamePattern>${LOG_INFO_HOME}//%d.log</fileNamePattern>
    23.             <maxHistory>30</maxHistory>
    24.         </rollingPolicy>
    25.     </appender>
    26.     <appender name="ERROR-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender">
    27.         <filter class="ch.qos.logback.classic.filter.ThresholdFilter">
    28.             <level>ERROR</level>
    29.         </filter>
    30.         <encoder>
    31.             <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>
    32.         </encoder>
    33.         <!--滚动策略-->
    34.         <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">
    35.             <!--路径-->
    36.             <fileNamePattern>${LOG_ERROR_HOME}//%d.log</fileNamePattern>
    37.             <maxHistory>30</maxHistory>
    38.         </rollingPolicy>
    39.     </appender>
    40.     <root level="info">
    41.         <appender-ref ref="CONSOLE-LOG" />
    42.         <appender-ref ref="INFO-LOG" />
    43.         <appender-ref ref="ERROR-LOG" />
    44.     </root>
    45. </configuration>

    部分标签说明

    <root>标签,必填标签,用来指定最基础的日志输出级别

    • <appender-ref>标签,添加append

    <append>标签,通过使用该标签指定日志的收集策略

    • name属性指定appender命名

    • class属性指定输出策略,通常有两种,控制台输出和文件输出,文件输出就是将日志进行一个持久化。ConsoleAppender将日志输出到控制台

    <filter>标签,通过使用该标签指定过滤策略

    • <level>标签指定过滤的类型

    <encoder>标签,使用该标签下的<pattern>标签指定日志输出格式。如果您正在学习Spring Boot,那么推荐一个连载多年还在继续更新的免费教程:http://blog.didispace.com/spring-boot-learning-2x/

    <rollingPolicy>标签指定收集策略,比如基于时间进行收集

    • <fileNamePattern>标签指定生成日志保存地址 通过这样配置已经实现了分类分天手机日志的目标了

    03、logback 高级特性异步输出日志

    之前的日志配置方式是基于同步的,每次日志输出到文件都会进行一次磁盘IO。采用异步写日志的方式而不让此次写日志发生磁盘IO,阻塞线程从而造成不必要的性能损耗。异步输出日志的方式很简单,添加一个基于异步写日志的appender,并指向原先配置的appender即可

    1.  <!-- 异步输出 -->
    2.     <appender name="ASYNC-INFO" class="ch.qos.logback.classic.AsyncAppender">
    3.         <!-- 不丢失日志.默认的,如果队列的80%已满,则会丢弃TRACT、DEBUG、INFO级别的日志 -->
    4.         <discardingThreshold>0</discardingThreshold>
    5.         <!-- 更改默认的队列的深度,该值会影响性能.默认值为256 -->
    6.         <queueSize>256</queueSize>
    7.         <!-- 添加附加的appender,最多只能添加一个 -->
    8.         <appender-ref ref="INFO-LOG"/>
    9.     </appender>
    10.     <appender name="ASYNC-ERROR" class="ch.qos.logback.classic.AsyncAppender">
    11.         <!-- 不丢失日志.默认的,如果队列的80%已满,则会丢弃TRACT、DEBUG、INFO级别的日志 -->
    12.         <discardingThreshold>0</discardingThreshold>
    13.         <!-- 更改默认的队列的深度,该值会影响性能.默认值为256 -->
    14.         <queueSize>256</queueSize>
    15.         <!-- 添加附加的appender,最多只能添加一个 -->
    16.         <appender-ref ref="ERROR-LOG"/>
    17.     </appender>

    04、异步输出日志性能测试

    既然能提高性能的话,必须进行一次测试比对,同步和异步输出日志性能到底能提升多少倍?

    05、服务器硬件

    • CPU 六核

    • 内存 8G

    06、测试工具

    Apache Jmeter
    

    07、同步输出日志

    • 线程数:100

    • Ramp-Up Loop(可以理解为启动线程所用时间) :0 可以理解为100个线程同时启用

    • 测试结果

    重点关注指标 Throughput【TPS】 吞吐量:系统在单位时间内处理请求的数量,在同步输出日志中 TPS 为 44.2/sec

    08、异步输出日志

    • 线程数 100

    • Ramp-Up Loop:0

    • 测试结果

    TPS 为 497.5/sec , 性能提升了10多倍!!!

    09、异步日志输出原理

    logback框架下的Logger.info方法开始追踪。一路的方法调用路径如下图所示:

    异步输出日志中最关键的就是配置文件中ch.qos.logback.classic``AsyncAppenderBase``append

    1. //来自阿里大佬的《LeetCode刷题答案》pdf新鲜出炉
    2. //年末面试必备!大家可以关注公众号TJ君,回复LeetCode领取。
    3. protected void append(E eventObject) {
    4.         if(!this.isQueueBelowDiscardingThreshold() || !this.isDiscardable(eventObject)) {
    5.             this.preprocess(eventObject);
    6.             this.put(eventObject);
    7.         }
    8.     }

    通过队列情况判断是否需要丢弃日志,不丢弃的话将它放到阻塞队列中,通过查看代码,这个阻塞队列为ArrayBlockingQueueu,默认大小为256,可以通过配置文件进行修改。Logger.info(...)append(...)就结束了,只做了将日志塞入到阻塞队列的事,然后继续执行Logger.info(...)下面的语句了。在AsyncAppenderBase类中定义了一个Worker线程,run方法中的关键部分代码如下:

    1. E e = parent.blockingQueue.take();
    2. aai.appendLoopOnAppenders(e);

    从阻塞队列中取出一个日志,并调用AppenderAttachableImpl类中的appendLoopOnAppenders方法维护一个Append列表。Worker线程中调用方法过程主要如下图:

    最主要的两个方法就是encode``write``encode

    感谢阅读,更多的java课程学习路线,笔记,面试等架构资料,需要的同学可以私信我(资料)即可免费获取!
     

  • 相关阅读:
    安装CDH配置本地CM、CDH源时,配置Apache Web服务器一直显示403看不到目录
    强化学习:实现了基于蒙特卡洛树和策略价值网络的深度强化学习五子棋(含码源)
    网络安全(黑客)——自学2024
    易基因直播预告|细菌微生物基因表达调控表观研究易基因科技
    Flink学习24:窗口的分配器
    2022年8月9日:用C#生成.NET应用程序--使用 Visual Studio Code 调试器,以交互方式调试 .NET 应用(不会,失败)
    程序员怎样才能写出一篇好的博客或者技术文章?
    MyBatis源码之MyBatis中SQL语句执行过程
    学习servlet【续】
    【Linux】Linux网络连接方式 + 虚拟机克隆、迁移与删除+虚拟机快照+Linux(CentOS)安装wmtools
  • 原文地址:https://blog.csdn.net/hahazz233/article/details/125426526