Java内存模型与线程

Java内存模型与线程

一、物理机中的并发问题

由于计算机的存储设备与处理器的运算速度有着几个数量级的差距，所以现代计算机系统都不得不加入一层或多层读写速度尽可能接近处理器运算速度的高速缓存来作为内存与处理器之间的缓冲；
将运算需要使用的数据复制到缓存中，让运算能快速进行，当运算结束后再从缓存中同步回内存之中，这样处理器就无需等待缓慢的内存读写了。
基于高速缓存的存储交互很好的解决了处理器与内存速度之间的矛盾，但是也为计算机系统带来更高的复杂度，因此也引入了一个新的问题：缓存一致性。
在多路处理器系统中，每个处理器都有自己的高速缓存，而它们又共享同一主内存。这种系统统称为共享内存多核系统，为了解决一致性的问题，需要各个处理器访问缓存时都遵循一些协议，在读写时要根据协议来进行操作，这类协议有MSI, MESI, MOSI等，不同架构的物理机器可以拥有不一样的内存模型，同样Java也有自己的内存模型。

除了增加高速缓存之外，为了使处理器内部的运算单元尽可能被充分利用，处理器可能会对输入代码进行乱序执行优化，但是会保证该结果与顺序执行的结果是一致的，但并不能保证程序中各个语句计算的先后顺序与输入代码中的顺序一致。类似Java虚拟机即时编译器中的指令重排序优化。

二、Java内存模型

Java内存模型的主要目的是定义程序中各种变量的访问规则，即关注在虚拟机中把变量值存储到内存和从内存中取出变量值这样的底层细节。这里的变量值包括实例字段、静态字段和构成数组对象的元素，但是不包括局部变量与方法参数，因为后者是线程私有的，不会被共享。
Java内存模型规定了所有的变量都存储在主内存中（物理上它是虚拟机内存的一部分）。每条线程还有自己的工作内存，可与前面讲的处理器高速缓存类比，线程的工作内存中保存了被该线程使用的变量的主内存副本，线程对变量的所有操作都必须在工作内存中进行，而不能直接读写主内存中的数据。

这里所讲的主内存、工作内存和Java内存区域中的Java堆、栈、方法区并不是同一个层次的对内存的划分，这俩者基本没有任何关系的。如果俩者一定要勉强对应起来，那么从变量、主内存、工作内存的定义来看，主内存主要对应于Java堆中的对象实例数据部分，而工作内存则对应于虚拟机栈中的部分区域。或者说。主内存直接对应于物理硬件的内存，而为了获取更好的运行速度，虚拟机可能会让工作内存先存储于寄存器与高速缓存中，因为程序运行时主要访问的是工作内存。

内存间的交互操作

关于主内存与工作内存之间具体的交互协议，即一个变量如何从主内存拷贝到工作内存、如何从工作内存同步回主内存这一类的技术细节，Java内存模型中定义了以下8种操作来完成：

• lock（锁定）：作用于主内存的变量，将一个变量标记为一条线程独占的状态。
• unlock（解锁）：作用于主内存的变量，它把一个处于锁定状态的变量释放出来，释放后的变量才可以被其他线程锁定。
• read（读取）：作用于主内存的变量，它把一个变量的值从主内存传输到线程的工作内存中，以便随后的load动作使用。
• load（载入）：作用于工作内存的变量，它把read操作从主内存中得到的变量放入工作内存的变量副本中。
• use（使用）：作用于工作内存的变量，它把工作内存中一个变量的值传递给执行引擎，每当虚拟机遇到一个需要使用变量的值的字节码指令时将会执行这个操作。
• assign（赋值）：作用于工作内存的变量，它把一个从执行引擎接收的值赋给工作内存的变量，每当虚拟机遇到一个需要给变量赋值的字节码指令时将会执行这个操作。
• store（存储）：作用于工作内存的变量，它把工作内存中一个变量的值传送到主内存中，以便随后的write操作。
• write（写入）：作用于主内存的变量，它把store操作从工作内存中得到的变量值放入到主内存的变量中。

此外还有一些使用限制。
在新的描述中，将Java内存模型的操作简化为read、write、lock、unlock四种，但这只是语言描述的等价化简，Java内存模型的基础设计并未改变，

volatile型变量的特殊规则

关键字volatile可以说是Java虚拟机提供的最轻量级的同步机制。
当一个变量被定义成volatile之后，它将具备俩项特性：

• 第一项是保证此变量对所有线程的可见性，这里的可见性指的是当一条线程修改了这个变量的值，新值对于其他线程来说是可以立即得知的。它不能保证对变量操作的原子性。
• 第二项就是禁止指令重排序优化

假定t表示一个线程，v和w分别表示俩个volatile型变量，那么在进行操作的时候需要满足如下规则：

• 只有当线程t对变量v执行的前一个动作是load的时候，线程t才能对变量v执行use动作；并且，只有当线程t对变量v执行的后一个动作是use的时候，线程t才能对变量v执行load操作。线程t对变量v的use动作可以认为是和线程t对变量v的load、read动作相关联的，必须连续且一起出现。

这条规则要求在工作内存中，每次使用v前都必须先从主内存刷新最新的值，用于保证能看见其他线程对变量v所做的修改。

• 假定动作a是线程t对变量v实施use或assign动作，假定动作f是和动作a相关联的load或者store动作，假定动作p是和动作f相应的对变量v的read或write动作；与此类似，假定动作b是线程t对变量w实施的use或assign动作，假定动作g是和动作b相关的load或store动作，假定动作q是和动作g相应的对变量w的read或write动作，如果a先于b，那么p先于q。

这条规则要求volatile修饰的变量不会被指令重排序优化，从而保证代码的执行顺序与程序的顺序相同。

long和double型变量的特殊规则

在Java内存模型中：允许虚拟机将没有被volatile修饰的64位数据的读写操作划分为俩次32位的操作来进行。即允许虚拟机自行选择是否要保证64位数据类型的操作原子性。即“long和double的非原子性协定”。

原子性、可见性和有序性

原子性

Java内存模型直接保证的原子性变量操作包括read、load、assign、use、store和write这6个；对于基本数据类型的访问，读写都是具备原子性的。如果应用场景需要更大范围的原子性保证，Java内存模型还提供了lock和unlock操作来满足需求，在高层次的字节码指令是monitorenter和monitorexit。这俩个字节码反映到Java代码中就是同步块--synchronized。

可见性

可见性就是指当一个线程修改了共享变量的值时，其他线程能够立即得知这个修改。Java内存模型是通过在变量修改后将新值同步回主内存，在变量读取前从主内存刷新变量值这种依赖主内存作为传递媒介的方式来实现可见性的，无论是普通变量还是volatile变量都是如此的。普通变量与volatile变量的区别是，volatile的特殊规则保证了新值能立即同步到主内存，以及每次使用前立即从主内存刷新。除了volatile关键字，Java中synchronized和final也可以实现可见性。

有序性

Java程序中天然的有序性可以总结为一句话：如果在本线程内观察，所有的操作都是有序的，如果在一个线程中观察另一个线程所有的操作都是无序的。前半句是指线程内似表现为串行的语义，后半句是指指令重排序现象和工作内存与主内存同步延迟。

Java语言中提供了volatile和synchronized两个关键字来保证线程之间操作的有序性，volatile关键字本身就包含了禁止指令重排序的语义。synchronized通过锁机制实现。

先行发生原则

先行发生是Java内存模型中定义的俩项操作之间的偏序关系，比如说操作a先行发生于操作b，其实就是说在发生操作b之前，操作a产生的影响能被操作b观察到，“影响”保证修改了内存中共享变量的值、发送了消息、调用了方法等。
下面是Java内存模型中一些“天然的”先行发生关系：

• 程序次序规则：在一个线程内，按照控制流顺序，书写在前面的操作先行发生于书写在后面的操作。
• 管程锁定规则：一个unlock操作先行发生于后面对同一个锁的lock操作。
• volatile变量规则：对同一个volatile变量的写操作先行发生于后面对这个变量的读操作。
• 传递性：如果操作a先行发生于b，操作b先行发生于操作c，那么就可以得出操作a先行发生于c。
• 线程启动规则：线程对象的start方法先行发生于此线程的每一个动作。
• 线程终止规则：线程中所有的操作都先行发生于对此线程的终止检测。
• 线程中断规则：对线程interrupt方法的调用先行发生于被中断的代码检测到中断事件的发生。
• 对象终结规则：一个对象的初始化完成先行发生于它的finalize方法的开始。

三、Java与线程

线程的实现

实现线程主要有三种方式：使用内核线程实现（1:1）实现，使用用户线程实现（1:n）实现，使用用户线程加轻量级进程混合实现。

内核线程

使用内核线程实现的方式也被称为1:1实现。内核线程就是直接由操作系统内核支持的线程，这种线程由内核来完成线程切换，内核通过操纵调度器对线程进行调度，并负责将线程的任务映射到各个处理器上。程序一般不会直接使用内核线程，而是使用内核线程的一种高级接口--轻量级进程，轻量级进程就是我们通常意义上所讲的线程，每个轻量级进程都由一个内核线程支持。这种轻量级进程与内核线程之间1:1的关系称为一对一的线程模型。局限：所有线程的操作都需要系统调用，系统调用代价相对较高，需要在用户态和内核态中来回切换。占用内核资源

用户线程实现

用户线程实现的方式被称为1:n实现。用户线程指的是完全建立在用户空间的线程库上，系统内核不能感知到用户线程的存在及如何实现的。用户线程的建立、同步、销毁和调度完全在用户态中完成，不需要内核的帮助。所有的线程操作都需要由用户程序自己去处理。

混合实现

线程除了依赖内核线程实现和完全由用户程序自己实现之外，还有一种将内核线程与用户线程一起使用的方式，被称为n：m的实现。在这种混合实现下，既存在用户线程，也存在轻量级进程。用户线程还是完全建立在用户空间中，因此用户线程的创建、切换等操作很廉价，并且可以支持大规模的用户线程并发。

Java线程的实现

Java线程如何实现不受Java虚拟机规范的约束，在hotspot中，它的每一个Java线程都是直接映射到一个操作系统原生线程来实现的，而且中间没有额外的间接结构。

Java线程调度

线程调度是指系统为线程分配处理器使用权的过程，调度的方式有俩种，分别是协同式线程调度和抢占式线程调度。Java线程调度是系统自动完成的，但是我们通过设置优先级来建议操作系统调度。

Java线程状态转换

Java语言定于了6种线程状态：

• 新建：创建后尚未启动的线程
• 运行（runnable）：包括操作系统线程状态中的running和ready，也就是处于此状态的线程有可能正在执行，也有可能正在等待操作系统为它分配执行时间。
• 无限期等待（waiting）：处于这种状态的线程不会被分配处理器执行时间，它们要等待被其他线程显式唤醒，例如：没有设置timeout的object的wait和thread的join方法以及Locksupport：park方法
• 限期等待（timed waiting）：处于这种状态的线程也不会被分配处理器执行时间，不过无需等待被其他线程显式唤醒，在一定时间后它们会由系统自动唤醒。例如：thread.sleep、设置时间参数的object.wait和thread.join方法、Locksupport.parknanos和parkuntil方法
• 阻塞（blocked）:线程被阻塞，阻塞状态与等待状态的区别是阻塞状态在等待着获取到一个排他锁，这个事件将在另外一个线程放弃这个锁的时候发生；而等待状态则是在等待一段时间，或者唤醒动作的发生。在程序等待进入同步区域的时候，线程进入这种状态。
• 结束（terminated）已终止的线程状态，线程已经结束执行。

 

四、Java与协程

由于目前Java并发的实现是1:1内核线程模型，这种实现调度成本高昂，系统能容纳的线程数量有限。协程（可以用户线程实现的并发模型）主要优势是轻量。
相关的项目--loom项目；