Java内存模型

前言

  多任务处理在现代计算机操作系统中几乎已是一项必备的功能了。在许多的情况下,让计算机同时去做几件事情,不仅是因为计算机的运算能力强大了,还有一个重要的原因是计算机的运算速度与它的存储和通信子系统速度的差距太大,大量的时间都花费在磁盘I/O、网络通信或者数据库访问上。

  除了充分利用计算机处理器的能力外,一个服务端同时对多个客户端提供服务则是另一个具体的并发应用场景。衡量一个服务性能的高低好坏,每秒事物处理数(Transactions Per Second,TPS)是最重要的指标之一,它代表着一秒内服务端平均能响应的请求总数,而TPS值与程序的并发能力又有非常密切的关系。对于计算量相同的任务,程序线程并发协调得越有条不紊,效率自然会高;反之,线程之间频繁阻塞甚至死锁,将会大大降低程序的并发能力。

硬件效率与一致性

  由于计算机的存储设备与处理器的运算速度有几个数量级差距,所以现代计算机系统都不得不加入一层读写速度尽可能接近处理器运算速度的高速缓存(Cache)来作为内存和处理器之间的缓冲:将运算需要使用到的数据复制到缓存中,让运算能快速进行,当运算结束后再从缓存同步回内存之中,这样处理器就无需等待缓慢的内存读写了。

  基于高速缓存的存储交互很好地解决了处理器与内存的速度矛盾,但是也为计算机系统带来更高的复杂度,因为引入了一个新的问题:缓存一致性(Cache Coherence)。在多处理系统中,每个处理器都有自己的高速缓存,而它们又共享同一个主内存(Main Memory),这样就导致了一个问题,当多个处理器的运算任务都涉及同一块主内存区域时,将可能导致各自的缓存数据不一致,这样的话,当数据同步到主内存时以谁的数据为准呢?为了解决一致性的问题,需要各个处理器访问缓存时都遵循一些协议,在读写时要根据协议来进行操作,这类协议有MSI、MESI、MOSI、Synapse、Firefly及Dragon Protocol等。处理器、高速缓存、主内存间的交互关系如下图所示:

  除了增加高速缓存之外,为了使得处理器内部的运算单元能尽量被充分利用,处理器可能会对输入代码进行乱序执行优化,处理器会在计算之后将乱序执行的结果重组,保证该结果与顺序执行的结果是一致的,但是并不保证程序中的各个语句计算的先后顺序与输入代码中的顺序一致,因此,如果存在一个计算任务依赖另外一个计算任务的中间结果,那么其顺序性并不能靠代码的先后顺序来保证。与处理器的乱序执行优化类似,Java虚拟机的即时编译器中也有类似的指令重排序优化。

Java内存模型

  Java虚拟机规范中试图定义一种Java内存模型(Java Memory Model,JMM)来屏蔽掉各种硬件和操作系统的内存访问差异,以实现让Java程序在各种平台下都能达到一致的内存访问效果。定义Java内存模型并非一件容易的事情,这个模型必须定义得足够严谨,才能让Java的并发内存访问操作不会产生歧义;但是,也必须定义得足够宽松,使得虚拟机的实现有足够的自由空间去利用硬件的各种特性(寄存器、高速缓存和指令集中某些特有的指令)来获取更好的执行速度。经过长时间的验证和修补,在JDK1.5发布后,Java内存模型已经成熟和完善起来了。

主内存和工作内存

  Java内存模型的主要目标是定义程序中各个变量的访问规则,即在虚拟机中将变量存储到内存和从内存中取出变量这样的底层细节。此处的变量(Variables)与Java编程中所说的变量有区别,它包括了实例字段、静态字段和构成数组对象的元素,但不包括局部变量与方法参数,因为后者是线程私有的,不会被共享,自然就不会存在竞争的问题。为了获得较好的执行效能,Java内存模型并没有限制执行引擎使用处理器的特定寄存器或缓存来和主内存进行交互,也没有限制即时编译器进行调整代码执行顺序这类优化措施。

  Java内存模型规定了所有的变量都存储在主内存中(Main Memory)中(此处仅是虚拟机内存的一部分)。每条线程还有自己的工作内存(Working Memory),线程的工作内存中保存了被该线程使用到的变量的主内存副本拷贝,线程对变量的所有操作(读取、赋值等)都必须在工作内存中进行,而不能直接读写主内存中的变量。不同的线程之间也无法直接访问对方工作内存中的变量,线程间变量值的传递均需要通过主内存来完成,线程、主内存、工作内存三者的交互关系如下图所示:

  从变量、主内存、工作内存的定义来看,主内存主要对应于Java堆中的对象实例数据部分,而工作内存则对应于虚拟机栈中的部分区域。从更低层次上说,主内存就直接对应于物理硬件的内存,而为了获取更好的运行速度,虚拟机(甚至是硬件系统本身的优化措施)可能会让工作内存优先存储于寄存器和高速缓存中,因为程序运行时主要访问读写的是工作内存。

内存间交互操作

  关于主内存与工作内存之间具体的交互协议,即一个变量如何从主内存拷贝到工作内存、如何从工作内存同步回主内存之类的实现细节,Java内存模型中定义了以下8种操作来完成,虚拟机实现时必须保证下面提及的每一种操作都是原子的、不可再分的(对于double和long类型的变量来说,load、store、read和write操作在某些平台上允许有例外):

  ❤ lock(锁定):作用于主内存的变量,它把一个变量标识为一条线程独占的状态;

  ❤ unlock(解锁):作用于主内存的变量,它把一个处于锁定状态的变量释放出来,释放后的变量才可以被其他线程锁定;

  ❤ read(读取):作用于主内存的变量,它把一个变量的值从主内存传输到线程的工作内存中,以便随后的load动作使用;

  ❤ load(载入):作用于工作内存的变量,它把read操作从主内存中得到的变量值放入工作内存的变量副本中;

  ❤ use(使用):作用于工作内存的变量,它把工作内存中的一个变量的值传递给执行引擎,每当虚拟机遇到一个需要使用到变量的值的字节码指令时将会执行这个操作;

  ❤ assign(赋值):作用于工作内存的变量,它把一个从执行引擎接收到的值赋给工作内存的变量,每当虚拟机遇到一个给变量赋值的字节码指令时执行这个操作;

  ❤ store(存储):作用于工作内存的变量,他把工作内存中一个变量的值传送到主内存中,以便随后的write操作使用;

  ❤ write(写入):作用于主内存的变量,它把store操作从工作内存中得到的变量的值放入主内存的变量中;

Java内存模型还规定了在执行上述8种基本操作时必须满足如下规则:

  (1)不允许read和load、store和write操作之一单独出现,即不允许一个变量从主内存读取了但工作内存不接受,或者从工作内存发起回写了但主内存不接受的情况出现;

  (2)不允许一个线程丢弃它的最近的assign操作,即变量在工作内存中改变了之后必须把该变化同步回主内存;

  (3)不允许一个线程无原因的(没有发生过任何assign操作)把数据从线程的工作内存同步回主内存中;

  (4)一个新的变量只能在主内存中“诞生”,不允许在工作内存中直接使用一个未被初始化(load或assign)的变量,换句话说,就是对一个变量实施use、store操作之前,必须先执行过了assign和load操作;

  (5)一个变量在同一时刻只允许一条线程对其进行lock操作,但lock操作可以被同一条线程重复执行多次,多次lock后,只有执行相同次数的unlock操作,变量才会被解锁;

  (6)如果对一个变量执行lock操作,那将会清空工作内存中此变量的值,在执行引擎使用这个变量前,需要重新执行load或assign操作初始化变量的值;

  (7)如果一个变量事先没有被lock锁定,那就不允许对它执行unlock操作,也不允许去unlock一个被其他线程锁定住的变量;

  (8)对一个变量执行unlock之前,必须先把此变量同步回主内存中(执行store、write操作);

这8种内存访问操作以及上述规定限定,再加上对volatile的一些特殊规定,就已经完全确定了Java程序中哪些内存访问操作在并发下是安全的。volatile相关的知识可以点击volatile查看。

 原子性、可见性、有序性

Java内存模型围绕着并发过程中如何处理原子性、可见性和有序性这三个特征来建立的:

(1)原子性(Atomicity)

  由Java内存模型来直接保证原子性变量操作包括read、load、assign、use、store、write,大致可以认为基本数据类型的访问读写是具备原子性的。如果一个应用场景需要一个更大的原子性保证,Java内存模型还提供了lock和unlock,尽管虚拟机没有把lock和unlock操作直接开放给用户使用,但是却提供了更高层次的字节码指令monitorenter和monitorexit来隐式地使用这两个操作,这两个字节码指令反映到Java代码中就是同步快------synchronized关键字。

(2)可见性(Visibility)

  可见性是指当一个线程修改了共享变量的值,其他线程能够立即得知这个修改。volatile可以保证,synchronized关键字也可以保证可见性,synchronized的可见性是由“对一个变量执行unlock操作之前,必须先把此变量同步回主内存中”这条规则获得的。另外,final关键字也可以实现可见性,因为被final修饰的字段在构造器中一旦初始化完成,并且构造器没有把this传递出去,那在其他线程中就能看见final字段的值。

(3)有序性(Ordering)

  Java程序中天然的有序性可以总结为一句话:如果在本线程内观察,所有的线程都是有序的;如果一个线程中观察另外一个线程,所有的操作都是无序的。前半句是指“线程内表现为串行的语义”,后半句是指“指令重排序”和“工作内存与主内存同步延迟”现象。Java语言提供了volatile和synchronized两个关键字来保证线程之间操作的有序性,volatile关键字本身就包含了禁止指令重排序的语义,而synchronized则是由“一个变量在同一时刻只允许一个线程对其lock操作”这条规则获得的,这条规则规定了持有同一个锁的两个同步块只能串行的执行。

happens-before原则

  如果Java内存模型中所有的有序性都仅仅靠volatile和synchronized来完成,那么有一些操作将变得很繁琐,但是我们编写Java代码时并未感觉到这一点,这是因为Java语言中有一个“先行发生(happens-before)”原则。这个原则十分重要,它是判断数据是否存在竞争、线程是否安全的主要依据,依靠这个原则,我们可以通过几条规则就判断出并发环境下两个操作之间是否存在冲突的问题。

  所谓先行发生原则是指Java内存模型中定义的两项操作之间的偏序关系,如果说操作A先行发生于操作B,那么操作A产生的影响能够被操作B观察到,影响包括修改了内存中共享变量的值,发送了消息、调用了方法等。Java内存模型下有一些天然的,不需要任何同步协助器就已经存在的先行发生关系:

  1、程序次序规则:在一个线程内,按照控制流顺序,控制流前面的操作先行发生于控制流后面的操作,说“控制流”是因为还要考虑到分支、循环结构;

  2、管程锁定规则:一个unlock操作先行发生于后面对同一个锁的lock操作;

  3、volatile变量规则:对一个volatile变量的写操作先行发生于后面对这个变量的读操作;

  4、线程启动规则:Thread对象的start()方法先行发生于此线程的每一个动作;

  5、线程终止规则:线程中所有的操作都先行发生于对此线程的终止检测;  

  6、线程中断规则:对线程interrupt()方法的调用先行发生于被被中断线程的代码检测到中断事件的发生;

  7、对象终结规则:一个对象的初始化完成先行发生于它的finalize()方法的开始;

  8、传递性规则:如果操作A先行发生于操作B,操作B先行发生于操作C,那么操作A必然先行发生于操作C;

Java语言无须任何同步手段保障就能成立的先行发生规则就只有上面这8点,如果两个操之间的关系不在此列,并且无法通过下面规则推导出来的话,它们就没有顺序性保障。

参考:《深入理解Java虚拟机》 周志明 编著:

作者:Joe
努力了的才叫梦想,不努力的就是空想,努力并且坚持下去,毕竟这是我相信的力量
原文地址:https://www.cnblogs.com/Joe-Go/p/10023131.html