执行引擎

本专栏学习内容来自尚硅谷宋红康老师的视频以及《深入理解JVM虚拟机》第三版

有兴趣的小伙伴可以点击视频地址观看，也可以点击下载电子书

执行引擎概述

• 执行引擎是Java虚拟机核心的组成部分之一
• “虚拟机”是一个相对于“物理机”的概念，这两种机器都有代码执行能力，其区别是物理机的执行引擎是直接建立在处理器、缓存、指令集和操作系统层面上的，而虚拟机的执行引擎则是由软件自行实现的，因此可以不受物理条件制约的定制指令集与执行引擎的结构体系，能够执行那些不被硬件直接支持的指令集格式

JVM的主要任务是负责装在字节码到其内部，但字节码并不能够直接运行在操作系统之上，因为字节码指令并非等价于本地机器指令，它内部包含的仅仅只是一些能够被JVM所识别的字节码指令、符号表，以及其他辅助信息。

那么如果想让一个Java程序运行起来，执行引擎的任务就是将字节码指令解释/编译为对应平台上的本地机器指令才可以。简单来说，JVM中的执行引擎充当了将高级语言翻译为机器语言的译者。

执行引擎的工作过程

1. 执行引擎在执行的过程中究竟要执行什么样的字节码指令完全取决于PC寄存器
2. 每当执行完一项指令操作后，PC寄存器就会更新吓一跳需要被执行的指令地址
3. 当然方法在执行的过程中，执行引擎有可能会通过存储在局部变量表中的对象引用准确定位到存储在Java堆区中的对象实例信息，以及通过对象头中的元数据指针定位到目标对象的类型信息

Java程序的编译和解释运行

如下图所示，所有的Java程序都会经过以下几个阶段

黄色部分：将Java文件转化为字节码文件

绿色部分：解释器

蓝色部分：编译器

什么是解释器，什么是JIT编译器

• 解释器：当Java虚拟机启动时会根据预定义的规范堆字节码采用逐行解释的方式执行，将每条字节码文件中的内容翻译为对应平台的本地机器指令执行
• JIT编译器：就是虚拟机将源代码直接编译成和本地机器平台相关的机器语言

机器码、指令、汇编、高级语言理解

机器码

• 各种用二进制编码方式表示的指令，叫做机器指令码。开始，人们就用它编写程序，这就是机器员
• 机器语言虽然能够被计算机理解和接收，但和人们的语言差别太大，不易被人们理解和记忆，并且它编程容易出差错
• 用它编写的程序一经输入计算机，CPU直接读取运行，因此和其他语言编的程序相比，执行速度最快
• 机器指令与CPU紧密相关，所以不同种类的CPU所对应的机器指令也就不同

指令

• 由于机器码是由0和1组成的二进制序列，可读性实在太差，于是人们发明了指令
• 指令就是把机器码中特定的0和1序列，简化成对应的指令，可读性稍好
• 由于不同的硬件平台，执行同一个操作，对应的机器码可能不同，所以不同的硬件平台的同一种指令，对应的机器码也可能不同

汇编语言

• 由于指令的可读性还是太差，于是人们又发明了汇编语言
• 在汇编语言中，用助记符代替机器指令的操作码，用地址符号或标号代替指令或操作数的地址
• 在不同的硬件平台，汇编语言对应着不同的机器语言指令集，通过汇编过程转换成机器指令
  • 由于计算机只认识指令码，所以用汇编语言编写的程序还必须翻译成机器指令码，计算机才可以识别

高级语言

• 为了是计算机用户编程序更容易，后来就出现了各种高级计算机语言。高级语言比机器语言、汇编语言更接近人的语言
• 当计算机执行高级语言编写的程序时，仍然需要吧程序解释和编译成机器的指令码。完成这个过程的程序就叫做解释程序或编译程序

解释器

前面说到执行引擎作用是将字节码文件翻译成计算机可以读懂的机器语言，而解释器的作用就是逐行翻译字节码文件

解释器的分类

在Java的发展历史中，一共有两套解释指星期，即古老的字节码解释器、现在普遍的模版解释器

• 字节码解释器在执行时通过纯软件代码模拟字节码的执行，效率非常低下
• 而模版解释器将每一条字节码和一个模版函数相关联，模版函数中直接产生这条字节码执行时的机器码，从而很大程度上提高了解释器的性能

现状

• 由于解释器在设计和实现上非常简单，因此除了Java语言之外，还有许多高级语言同样也是基于解释器执行的，但是在今天，基于解释器执行已经沦为低效的代名词
• 为了解决这个问题，JVM平台支持一种叫做即时编译的技术。即时编译的目的是避免函数被解释执行，而是将整个函数体编译成机器码，每次函数执行时，只执行遍以后的机器码即可，这种方式可以使执行效率大幅度提升

JIT编译器

概念解释

Java语言的编译器其实是一段不确定的操作过程，它可能是指一个前端编译器（把.java文件转变成.class文件的过程），也可能是指虚拟机的后端运行期编译器JIT编译器（把.class文件转变成机器码的过程），也可能指使用静态提前编译器（直接把.java文件编译成机器码的过程）

解释器与编译器共存

HotSpot VM是目前市面上高性能虚拟机的代表作之一，它采用解释器与即时编译器并存的架构。在Java虚拟机运行时，解释器和即时编译器能够相互协作，各自取长补短，尽力去选择最合适的方式来劝和编译本地代码的时间和直接解释执行代码的时间。

共存的好处

当Java虚拟机启动时，解释器可以首先发挥作用，而不必等待即时编译器全部编译完成后再执行，这样可以省去许多不必要的编译时间，随着时间的推移，编译器发挥作用，把越来越多的代码编译成本地代码，获得更高的效率。

热点代码及探测方式

• 一个被多次调用的方法，或者是一个方法体内部循环次数较多的循环体都可以被称之为热点代码，因此都可以通过JIT编译为本地机器指令。由于这种编译方式发生在方法的执行过程中，也被称之为栈上替换
• HotSpot VM所采用的热点探测方式是基于计数器的热点探测，他将为每一个方法都建立2个不同类型的计数器
  • 方法调用计数器：用于统计方法的调用次数
  • 回边计数器：用于统计循环体执行的循环次数

何时触发JIT编译器

• 方法调用计数器，它的默认阈值在Client模式下是1500次，在server模式下是10000次。超过这个阈值，就会触发JIT编译器

  windows64位操作系统以及mac系统默认是server模式

  

• 这个阈值可以通过虚拟机参数-XX:CompileThreshold来人为设定

• 当一个方法被调用时，会先检查该方法是否存在被JIT编译器编译过的版本，如果存在则优先使用编译后的本地代码来执行。如果不存在，则将此方法的调用计数器加1，然后判断方法调用计数器和回边计数器之和是否超过方法调用计数器的阈值。如果超过阈值，那么将会向即时编译器提交一个该方法的代码编译请求

热度衰减

在默认情况下，方法调用计数器统计的并不是方法被调用的绝对次数，而是一个相对的执行频率，也就是说在一段时间内方法被调用的次数。

当超过一定的时间限度，如果方法的调用次数仍然不足以让他提交给编译器编译，那这个方法的调用计数器就会被减少一半，这个过程称之为方法调用计数器热度的衰减，而这段时间就称为此方法统计的半衰周期

HotSpot VM中JIT的分类

在HotSpot VM中内嵌有两个JIT编译器，分别是Client Compiler和Server Compiler，但大多数情况下我们简称为C1编译器和C2编译器。卡法人员可以通过如下命令现实执行Java虚拟机在运行时到底使用哪一种即时编译器。

• -client：指定Java虚拟机运行在Client模式下，并使用C1编译器
  • C1编译器会对字节码进行简单和可靠的优化，耗时短，以达到更快的编译速度
• -server：指定Java虚拟机运行在Server模式下，并使用C2编译器
  • C2进行耗时较长的优化，以及激进优化。但优化的代码执行效率更高