• 因为内存溢出,我差点被优化


    我们都知道,在写代码的过程中,业务逻辑很大程度上决定了你对业务的理解,但是解决问题,却是你提升比较关键的地方,而我,却差点因为这个内存溢出,把自己给干优化掉。

    什么是内存溢出

    百度百科是这么解释的:

    内存溢出(Out Of Memory,简称OOM)是指应用系统中存在无法回收的内存或使用的内存过多,最终使得程序运行要用到的内存大于能提供的最大内存。此时程序就运行不了,系统会提示内存溢出,有时候会自动关闭软件,重启电脑或者软件后释放掉一部分内存又可以正常运行该软件,而由系统配置、数据流、用户代码等原因而导致的内存溢出错误,即使用户重新执行任务依然无法避免

    其实很简单,在 Java 中,那就是 Out Of Memory,导致了不合理的 GC ,那么如何去定位这个内存溢出的呢?实际上如果是大公司,那么会有专业的运维人员去定位哪些程序导致了内存溢出,但是如果要是没有专业的运维人员,那么你自己就得学会怎么去定位这个内存溢出了。

    如何定位内存溢出

    (一)定位占用CPU最高的服务

    1、先找到cpu占用比较高的进程:top -c 进去后按Shift+P键

    一般异常的进程cpu的占用会很高,记录下这进程的PID

    2、查看指定进程cpu情况:top -cp PID

    查看此进程占用cpu最高的线程,记录下线程的ppid也可以将相关信息保存下来:top -Hp PID -o %CPU -n 1 >cpu.txt到此,我们就找到的最占用cpu的进程以及相关线程。

    3、如果你已经知道是你们的 Java 程序导致了内存溢出,那么我们就得学会分析日志,一般在 Out Of Memory 的上方,我们都会有各种日志的输出,来标志现在这个时间点,我们的程序执行了什么操作,导致了我们的这个内存溢出,分析到这里,就轮到看代码了。

    检查的内容大致都有哪些地方呢?

    在一个项目中,使用两个数据库连接,其中专用于发送短信的数据库连接使用 DBCP 连接池管理,用户为不将短信发出,有意将数据库连接用户名改错,使得日志中有许多数据库连接异常的日志,一段时间后,就出现 OutOfMemory 错误。经分析,这是由于 DBCP 连接池 BUG 引起的,数据库连接不上后,没有将连接释放,最终使得D BCP 报OutOfMemory 错误。

    上面这是一个简单的例子,比如还有其他的,代码中是否有死循环或递归调用。是否有大循环重复产生新对象实体。检查对数据库查询中,是否有一次获得全部数据的查询。一般来说,如果一次取十万条记录到内存,就可能引起内存溢出。这个问题比较隐蔽,在上线前,数据库中数据较少,不容易出问题,上线后,数据库中数据多了,一次查询就有可能引起内存溢出。因此对于数据库查询尽量采用分页的方式查询。

    检查List、MAP等集合对象是否有使用完后,未清除的问题。List、MAP等集合对象会始终存有对对象的引用,使得这些对象不能被GC回收。

    比如我们这次内存溢出,就是因为一个很简答的导入功能,因为服务器给服务拆分的内存只有2G,而程序也没有专门的去处理,实施导入数据的时候,直接把100w的空数据从Excel中直接导入了,结果,直接导致了内存溢出。那么我们应该怎么去处理这个呢?

    其实我们的比较简单,就是直接限定了文件的大小,因为Excel 虽然很大,但是有数据量的就那么几百行,100w行,都是空行数据,还都识别了,所以处理方式就那么几种,限制文件大小,限制读取数据的时候不读空行,因为毕竟内存大小是已经不允许我们做修改了,只能通过这个代码业务层面来处理这个了。

    如何解决内存溢出呢?

    内存溢出的解决方案:

    • 第一步,修改JVM启动参数,直接增加内存。(-Xms,-Xmx参数一定不要忘记加。)
    • 第二步,检查错误日志,查看OutOfMemory错误前是否有其它异常或错误。
    • 第三步,对代码进行走查和分析,找出可能发生内存溢出的位置。

    重点排查以下几点:

    1.检查对数据库查询中,是否有一次获得全部数据的查询。一般来说,如果一次取十万条记录到内存,就可能引起内存溢出。这个问题比较隐蔽,在上线前,数据库中数据较少,不容易出问题,上线后,数据库中数据多了,一次查询就有可能引起内存溢出。因此对于数据库查询尽量采用分页的方式查询。

    2.检查代码中是否有死循环或递归调用。

    3.检查是否有大循环重复产生新对象实体。

    4.检查List、MAP等集合对象是否有使用完后,未清除的问题。List、MAP等集合对象会始终存有对对象的引用,使得这些对象不能被GC回收。

    • 第四步,使用内存查看工具动态查看内存使用情况

    图片

    一般的,使用的工具有很多,MAT(Memory Analyzer Tool) 这个工具是一个比较好用的分析内存的工具,还有 jmeter 这个压力测试工具,可对特定接口进行压测,分析tps、响应时间、CPU、内存等性能指标。

    JConsole、JVisualVM jdk 自带可视化工具,可监控CPU、内存、线程等状况。

    企业系统开发工具

    JNPF开发平台,很多人都用过它,它是功能的集大成者,任何信息化系统都可以基于它开发出来。

    原理是将开发过程中某些重复出现的场景、流程,具象化成一个个组件、api、数据库接口,避免了重复造轮子。因而极大的提高了程序员的生产效率。

    官网:https://www.jnpfsoft.com/?csdn ,如果你有闲暇时间,可以做个知识拓展。

    这是一个基于Java Boot/.Net Core构建的简单、跨平台快速开发框架。前后端封装了上千个常用类,方便扩展;集成了代码生成器,支持前后端业务代码生成,满足快速开发,提升工作效率;框架集成了表单、报表、图表、大屏等各种常用的Demo方便直接使用;后端框架支持Vue2、Vue3。

    为了支撑更高技术要求的应用开发,从数据库建模、Web API构建到页面设计,与传统软件开发几乎没有差异,只是通过低代码可视化模式,减少了构建“增删改查”功能的重复劳动。

  • 相关阅读:
    模块一、任务一.数据分析概述
    一年前端面试打怪升级之路
    Rainbow: Combining Improvements in Deep Reinforcement Learning
    tooltip实现悬停内容染色
    ACP证书是什么?考了有用吗?
    机器学习实战读书笔记——机器学习概览
    北理工嵩天Python语言程序设计笔记(8 文件和数据格式化)
    [每周一更]-(第60期):15种MySQL索引失效场景
    Java项目:JSP酒店客房管理系统
    Verilog刷题[hdlbits] :Always case2
  • 原文地址:https://blog.csdn.net/Z__7Gk/article/details/133176631