所谓线程数据的 可见性 ,指的就是内存中的某个数据,假如第一个 CPU 的一个核读取到了,和其他的核读取到这个数据之间的可见性。
每个线程会保存一份拷贝到线程本地缓存,使用 volatile
,可以保持线程之间数据可见性。
如下示例
- package git.snippets.juc;
-
-
- import java.util.concurrent.TimeUnit;
-
- /**
- * 并发编程三大特性之:可见性
- *
- * @author Grey
- * @since 1.8
- */
- public class ThreadVisible {
-
- static volatile boolean flag = true;
-
- public static void main(String[] args) throws Exception {
- Thread t = new Thread(() -> {
- System.out.println(Thread.currentThread() + " t start");
- while (flag) {
- // 如果这里调用了System.out.println()
- // 会无论flag有没有加volatile,数据都会同步
- // 因为System.out.println()背后调用的synchronized
- // System.out.println();
- }
- System.out.println(Thread.currentThread() + " t end");
- });
- t.start();
- TimeUnit.SECONDS.sleep(3);
- flag = false;
-
-
- // volatile修饰引用变量
- new Thread(a::m, "t2").start();
- TimeUnit.SECONDS.sleep(2);
- a.flag = false;
-
- // 阻塞主线程,防止主线程直接执行完毕,看不到效果
- System.in.read();
- }
-
- private static volatile A a = new A();
-
- static class A {
- volatile boolean flag = true;
-
- void m() {
- System.out.println("m start");
- while (flag) {
- }
- System.out.println("m end");
- }
- }
- }
代码说明:
volatile
修饰了 flag
变量,主线程改了 flag
的值,子线程可以感知到;
如在上述代码的死循环中增加了 System.out.println()
, 则会强制同步 flag
的值,无论 flag
本身有没有加 volatile
;
如果 volatile
修饰一个引用对象,如果对象的属性(成员变量)发生了改变, volatile
不能保证其他线程可以观察到该变化。
关于三级缓存
如上图,内存读出的数据会在 L3,L2,L1 上都存一份。
在从内存中读取数据的时候,根据的是程序局部性的原理,按块来读取,这样可以提高效率,充分发挥总线 CPU 针脚等一次性读取更多数据的能力。
所以这里引入了一个缓存行的概念,目前一个缓存行多用 64个字节 来表示。
如何来验证 CPU 读取缓存行这件事,我们可以通过一个示例来说明:
- package git.snippets.juc;
-
- /**
- * 缓存行对齐
- *
- * @author Grey
- * @since 1.8
- */
- public class CacheLinePadding {
- public static T[] arr = new T[2];
-
- static {
- arr[0] = new T();
- arr[1] = new T();
- }
-
- public static void main(String[] args) throws Exception {
- Thread t1 = new Thread(() -> {
- for (long i = 0; i < 1000_0000L; i++) {
- arr[0].x = i;
- }
- });
-
- Thread t2 = new Thread(() -> {
- for (long i = 0; i < 1000_0000L; i++) {
- arr[1].x = i;
- }
- });
-
- final long start = System.nanoTime();
- t1.start();
- t2.start();
- t1.join();
- t2.join();
- System.out.println((System.nanoTime() - start) / 100_0000);
- System.out.println("arr[0]=" + arr[0].x + " arr[1]=" + arr[1].x);
- }
-
- private static class Padding {
- public volatile long p1, p2, p3, p4, p5, p6, p7;
- }
-
- // T这个类extends Padding与否,会影响整个流程的执行时间,如果继承了,会减少执行时间,
- // 因为继承Padding后,arr[0]和arr[1]一定不在同一个缓存行里面,所以不需要同步数据,速度就更快一些了。
- private static class T /*extends Padding*/ {
- public volatile long x = 0L;
- }
- }
代码说明
以上代码, T
这个类继承 Padding
类与否,会影响整个流程的执行时间,如果继承了,会减少执行时间,因为继承 Padding
后, arr[0]
和 arr[1]
一定不在同一个缓存行里面,所以不需要同步数据,速度就更快一些了。
Java SE 1.8 增加了一个注解 @Contended
,标注后就不会在同一缓存行, 但是这个注解仅适用于 Java SE 1.8,而且还需要增加 JVM 参数 -XX:-RestrictContended
CPU 为每个缓存行标记四种状态(使用两位)
M: 被修改(Modified)
该缓存行只被缓存在该 CPU 的缓存中,并且是被修改过的( dirty
),即与主存中的数据不一致,该缓存行中的内存需要在未来的某个时间点(允许其它 CPU 读取请主存中相应内存之前)写回( write back
)主存。
当被写回主存之后,该缓存行的状态会变成独享( exclusive
)状态。
E: 独享的(Exclusive)
该缓存行只被缓存在该 CPU 的缓存中,它是未被修改过的( clean
),与主存中数据一致。该状态可以在任何时刻当有其它 CPU 读取该内存时变成共享状态( shared
)。
同样地,当 CPU 修改该缓存行中内容时,该状态可以变成 Modified
状态。
S: 共享的(Shared)
该状态意味着该缓存行可能被多个 CPU 缓存,并且各个缓存中的数据与主存数据一致( clean
),当有一个 CPU 修改该缓存行中,其它 CPU 中该缓存行可以被作废(变成无效状态( Invalid
))。
I: 无效的(Invalid)
该缓存是无效的(可能有其它 CPU 修改了该缓存行)。
计算机在执行程序时,为了提高性能,编译器和处理器常常会对指令做重排。
为什么指令重排序可以提高性能?
简单地说,每一个指令都会包含多个步骤,每个步骤可能使用不同的硬件。因此, 流水线技术 产生了,它的原理是:指令1还没有执行完,就可以开始执行指令2,而不用等到指令1执行结束之后再执行指令2,这样就大大提高了效率。
但是,流水线技术最害怕 中断 ,恢复中断的代价是比较大的,所以我们要想尽办法不让流水线中断。指令重排就是减少中断的一种技术。
我们分析一下下面这个代码的执行情况:
- a = b + c;
- d = e - f ;
先加载b、c( 注意,既有可能先加载b,也有可能先加载c ),但是在执行 b + c
的时候,需要等待 b、c 装载结束才能继续执行,也就是增加了停顿,那么后面的指令也会依次有停顿,这降低了计算机的执行效率。
为了减少这个停顿,我们可以先加载 e 和 f ,然后再去加载 b + c
,这样做对程序(串行)结果是没有影响的,但却减少了停顿:既然 b + c
需要停顿,那还不如去做一些有意义的事情。
综上所述, 指令重排对于提高 CPU 处理性能十分必要。虽然由此带来了乱序的问题,但是这点牺牲是值得的。
指令重排一般分为以下三种:
第一种:编译器优化重排
编译器在 不改变单线程程序语义 的前提下,可以重新安排语句的执行顺序。
第二种:指令并行重排
现代处理器采用了指令级并行技术来将多条指令重叠执行。如果 不存在数据依赖性 (即后一个执行的语句无需依赖前面执行的语句的结果),处理器可以改变语句对应的机器指令的执行顺序。
第三种:内存系统重排
由于处理器使用缓存和读写缓存冲区,这使得加载( load )和存储( store )操作看上去可能是在乱序执行,因为三级缓存的存在,导致内存与缓存的数据同步存在时间差。
指令重排可以保证串行语义一致,但是没有义务保证多线程间的语义也一致。所以在多线程下,指令重排序可能会导致一些问题。
乱序存在的条件是:不影响单线程的最终一致性( as - if - serial )
验证乱序执行的程序示例
- package git.snippets.juc;
-
- /**
- * 并发编程的三大特性之:有序性
- *
- * @author Grey
- * @since 1.8
- */
- public class DisOrder {
- private static int x = 0, y = 0;
- private static int a = 0, b = 0;
-
- // 以下程序可能会执行比较长的时间
- public static void main(String[] args) throws InterruptedException {
- int i = 0;
- for (; ; ) {
- i++;
- x = 0;
- y = 0;
- a = 0;
- b = 0;
- Thread one = new Thread(() -> {
- // 由于线程one先启动,下面这句话让它等一等线程two. 读着可根据自己电脑的实际性能适当调整等待时间.
- shortWait(100000);
- a = 1;
- x = b;
- });
-
- Thread other = new Thread(() -> {
- b = 1;
- y = a;
- });
- one.start();
- other.start();
- one.join();
- other.join();
- String result = "第" + i + "次 (" + x + "," + y + ")";
- if (x == 0 && y == 0) {
- // 出现这个分支,说明指令出现了重排
- // 否则不可能 x和y同时都为0
- System.err.println(result);
- break;
- } else {
- // System.out.println(result);
- }
- }
- }
-
- public static void shortWait(long interval) {
- long start = System.nanoTime();
- long end;
- do {
- end = System.nanoTime();
- } while (start + interval >= end);
- }
- }
代码说明:
如上示例,如果指令不出现乱序,那么 x 和 y 不可能同时为 0,通过执行这个程序可以验证出来,在我本机测试的结果是:
执行到第 385634 次 出现了 x 和 y 同时为 0 的情况,说明出现了乱序。
程序的原子性是指整个程序中的所有操作,要么全部完成,要么全部失败,不可能滞留在中间某个环节;在多个线程一起执行的时候,一个操作一旦开始,就不会被其他线程所打断。
一个示例:
- class T {
- m =9;
- }
对象 T 在创建过程中,背后其实是包含了多条执行语句的,由于有 CPU 乱序执行的情况,所以极有可能会在初始化过程中生成以一个半初始化对象 t,这个 t 的 m 等于 0(还没有来得及做赋值操作)
所以,不要在某个类的构造方法中启动一个线程,这样会导致 this 对象逸出:因为这个类的对象可能还来不及执行初始化操作,就启动了一个线程,导致了异常情况。
volatile
一方面可以保证线程数据之间的可见性,另外一方面,也可以防止类似这样的指令重排,所以,单例模式中, DCL
方式的单例一定要加 volatile
修饰:
- public class Singleton6 {
- private volatile static Singleton6 INSTANCE;
-
- private Singleton6() {
- }
-
- public static Singleton6 getInstance() {
- if (INSTANCE == null) {
- synchronized (Singleton6.class) {
- if (INSTANCE == null) {
- try {
- Thread.sleep(1);
- } catch (InterruptedException e) {
- e.printStackTrace();
- }
- INSTANCE = new Singleton6();
- }
- }
- }
- return INSTANCE;
- }
- }