java内存模型与线程
1.硬件的效率与一致性
由于计算机的存储设备与处理器的运算速度有几个数量级的差别,而绝大多数的运算任务都要与内存交互,所以现代计算机系统不得不加入一层读写速度尽可能接近处理器运算速度的高速缓存来作为内存与处理器之间的缓冲:将运算需要使用到的数据复制到缓冲之中,让运算能快速进行,当运算结束后再从缓存同步回内存之中,这样处理器就无须等待缓慢的内存读写了。
基于高速缓存的存储交互很好地解决了处理器与内存的速度矛盾,但是也为计算机系统带来更多的复杂度,因为他引入了一个新的问题:缓存一致性。在多处理器系统中,每个处理器都有自己的高速缓存,而他们又共享同一主内存。为了解决一致性的问题,需要各个处理器访问缓存时都遵循一些协议,在读写时要根据协议来操作,这类协议有MSI MESI MOSI Synapse Firefly及DragonProtocol等。不同架构的物理机器可以拥有不一样的内存模型,java也有自己的内存模型(内存模型可以理解为在特定的操作协议下,对特定的内存或告诉缓存进行读写访问的过程抽象)
除了增加高速缓存之外,为了使得处理器内部的运算单元能尽量充分利用,处理器可能会对输入代码进行乱序执行优化,处理器会在计算之后将乱序执行的结果重组,保证该结果与顺序执行的顺序一致,因此,若果存在一个计算任务依赖于另外一个计算任务的中间结果,那么其顺序性并不能靠代码的先后顺序来保证。
2.java内存模型
java定义内存模型是为了消除掉各种硬件和操作系统的内存访问差异,以实现让java程序在各种平台上都能达到一致的访问效果。定义Java内存模型并不是一件容易的事情,这个模型必须定义得足够严谨,才能让Java的并发操作不会产生歧义;但是,也必须得足够宽松,使得虚拟机的实现能有足够的自由空间去利用硬件的各种特性(寄存器、高速缓存等)来获取更好的执行速度。经过长时间的验证和修补,在JDK1.5发布后,Java内存模型就已经成熟和完善起来了。
①主内存和工作内存
Java内存模型的主要目标是定义程序中各个变量的访问规则,即在虚拟机中将变量存储到内存和从内存中取出变量这样底层细节。此处的变量与Java编程时所说的变量不一样,指包括了实例字段、静态字段和构成数组对象的元素,但是不包括局部变量与方法参数,后者是线程私有的,不会被共享。
Java内存模型中规定了所有的变量都存储在主内存(和物理硬件中的主内存名字一样,两者也可类比,但这只是虚拟机的一部分)中,每条线程还有自己的工作内存(可以与前面将的处理器的高速缓存类比),线程的工作内存中保存了该线程使用到的变量到主内存副本拷贝,线程对变量的所有操作(读取、赋值)都必须在工作内存中进行,而不能直接读写主内存中的变量。不同线程之间无法直接访问对方工作内存中的变量,线程间变量值的传递均需要在主内存来完成,线程、主内存和工作内存的交互关系如下图所示,和上图很类似。
这里的主内存、工作内存与Java内存区域的Java堆、栈、方法区不是同一层次内存划分。
② 内存间交互操作
关于主内存与工作内存之间的具体交互协议,即一个变量如何从主内存拷贝到工作内存、如何从工作内存同步到主内存之间的实现细节,Java内存模型定义了以下八种操作来完成,虚拟机实现时必须保证这八种操作都是原子的。:
- lock(锁定):作用于主内存的变量,把一个变量标识为一条线程独占状态。
- unlock(解锁):作用于主内存变量,把一个处于锁定状态的变量释放出来,释放后的变量才可以被其他线程锁定。
- read(读取):作用于主内存变量,把一个变量值从主内存传输到线程的工作内存中,以便随后的load动作使用
- load(载入):作用于工作内存的变量,它把read操作从主内存中得到的变量值放入工作内存的变量副本中。
- use(使用):作用于工作内存的变量,把工作内存中的一个变量值传递给执行引擎,每当虚拟机遇到一个需要使用变量的值的字节码指令时将会执行这个操作。
- assign(赋值):作用于工作内存的变量,它把一个从执行引擎接收到的值赋值给工作内存的变量,每当虚拟机遇到一个给变量赋值的字节码指令时执行这个操作。
- store(存储):作用于工作内存的变量,把工作内存中的一个变量的值传送到主内存中,以便随后的write的操作。
- write(写入):作用于主内存的变量,它把store操作从工作内存中一个变量的值传送到主内存的变量中。
如果要把一个变量从主内存中复制到工作内存,就需要按顺寻地执行read和load操作,如果把变量从工作内存中同步回主内存中,就要按顺序地执行store和write操作。Java内存模型只要求上述操作必须按顺序执行,而没有保证必须是连续执行。也就是read和load之间,store和write之间是可以插入其他指令的,如对主内存中的变量a、b进行访问时,可能的顺序是read a,read b,load b, load a。Java内存模型还规定了在执行上述八种基本操作时,必须满足如下规则:
- 不允许read和load、store和write操作之一单独出现
- 不允许一个线程丢弃它的最近assign的操作,即变量在工作内存中改变了之后必须同步到主内存中。
- 不允许一个线程无原因地(没有发生过任何assign操作)把数据从工作内存同步回主内存中。
- 一个新的变量只能在主内存中诞生,不允许在工作内存中直接使用一个未被初始化(load或assign)的变量。即就是对一个变量实施use和store操作之前,必须先执行过了assign和load操作。
- 一个变量在同一时刻只允许一条线程对其进行lock操作,lock和unlock必须成对出现
- 如果对一个变量执行lock操作,将会清空工作内存中此变量的值,在执行引擎使用这个变量前需要重新执行load或assign操作初始化变量的值
- 如果一个变量事先没有被lock操作锁定,则不允许对它执行unlock操作;也不允许去unlock一个被其他线程锁定的变量。
- 对一个变量执行unlock操作之前,必须先把此变量同步到主内存中(执行store和write操作)。
③对于volatile型变量的规则
volidate是最轻量级的同步机制。先来理解一下它:当一个变量定义为volidate以后,它将具备两种特性,第一是保证此变量对所有线程的可见性,这里的“可见性”是指当一条线程修改了这个变量的值,新值对于其他线程来说是可以立即得知的。而普通变量不能做到这一点,普通便利的值在县城建传递需要通过主内存来完成,例如,线程A修改一个普通变量的值,然后向主内存进行回写,另外一条线程B在线程A会写完成了之后再从主内存中进行读写操作,新变量值才会对线程B可见。但是如果操作不是原子的,依然没法保证volatile同步的正确性。只有在下述情况,才可以使用这个关键字:
- 对变量的写入操作不依赖于该变量的当前值(比如a=0;a=a+1的操作,整个流程为a初始化为0,将a的值在0的基础之上加1,然后赋值给a本身,很明显依赖了当前值),或者确保只有单一线程修改变量。
- 该变量不会与其他状态变量纳入不变性条件中。(当变量本身是不可变时,volatile能保证安全访问,比如双重判断的单例模式。但一旦其他状态变量参杂进来的时候,并发情况就无法预知,正确性也无法保障)。
/** * 基于双重判断的单例模式 */ public class Singleton { private volatile static Singleton instance; public static Singleton getInstance() { if (instance == null) { synchronized (Singleton.class) { if (instance == null) { instance = new Singleton(); } } } return instance; } public static void main(String[] args) { Singleton.getInstance(); } }
volatile还有个特性就是,可以禁止指令进行重排序优化。普通变量仅仅会保证在该方法的执行过程中所有以来复制结果的地方都能获取到正确的结果,而不能保证变量赋值操作的顺序与程序代码中的执行顺序一致。如下例子:
Map configOptions; char [] configText; //此变量必须定义为volatile volatile boolean initialized = false; //假设一下代码在线程A中执行,模拟读取配置信息,当读取完成后,将initialized设置为true来通知其他线程配置可使用 configOptions = new HashMap(); configText = readConfigFile(fileName); processConfigOptions(configText, configOptions); initialized = true; //假设以下代码在线程B中执行,等待initialized 为true,代表线程A已经把配置信息初始化完成 while(!initialized ){ sleep(); } //使用线程A中初始化好的配置信息 doSomethingWithConfig();
如果initialized 没有使用volatile修饰,就可能由于指令重排的优化,导致位于线程A中的最后一句代码“initialized = true”被提前执行,这样在线程B中使用配置信息的代码就可能出现错误。
所以,volatile本身强大的地方就是他还能预防这种情况发生,虽然牺牲了一点性能,但是大大增强了程序的可靠性。但是记住,不要依赖于volatile,在合适的时候才使用他(上文已经说明),如果情况不合适,就使用传统的synchronized关键字同步共享变量的访问,用来保证程序正确性(这个关键字的性能会随着jvm不断完善而不断提升,将来性能会慢慢逼近volatile)。
Java内存模型中对volatile变量定义的特殊规则:
- 在工作内存中,每次使用volatile变量前都必须从主内存中刷新最新的值,用于保证能看到其他线程对变量V所做的修改后的值。
- 在工作内存中,每次修改后的值都必须立刻同步回主内存中,用于保证其他线程可以看到自己对变量的修改。
- volatile修饰的变量不会被指令重排优化,保证代码的执行顺序与程序的顺序相同。
4. 对于long和double行变量的特殊规则
对于64位的数据类型(long和double),在模型中特别定义;了一条宽松的规定:允许虚拟机将没有被volatile修饰的64位数据的读写划分为两次32位的操作来进行,即允许虚拟机不保证64位数据类型的load、store、read和write这四个操作的原子性。
5. 原子性、可见性与有序性
-
原子性:由Java内存模型来直接保证的原子性变量操作包括read、load、assign、use、store和write这六个,我们可以大致的认为基本数据类型的访问读写是具备原子性的(long和double除外)。Java代码中的同步块即synchronized关键字,因此在synchronized块之间的操作也具备原子性。内部是通过字节码指令monitorenter和monitorexit来实现。
-
可见性:就是当一个线程修改了共享变量的值,其他线程能够立即得知这个修改。Java内存模型是通过在变量修改后将新值同步回主内存,在变量读取前从主内存刷新变量值。关键字synchronized和final也能保证可见性。首先同步块是因为对变量执行unlock操作之前,必须先把次变量同步回主内存中。而final关键字的可见性是指:被final修饰的字段在构造器中一旦被初始化完成,并且构造器没有把this指针传递出去,那么在其他线程中就能看见final字段的值。
-
有序性:用synchronized和volatile关键字来保证线程操作之间的有序性。volatile本省就包含禁止指令重排序的语义,而synchronized则是因为:一个变量在同一时刻只允许一条线程对齐进行lock操作。这个规则决定了持有同一个锁的两个同步块只能串行的进入。
6. 先行发生原则
如果Java内存模型中所有的有序性都只靠volatile和synchronized来完成,那么有一些操作将会变得很啰嗦。java内存模型中的一个重点原则——先行发生原则(Happens-Before),使用这个原则作为依据,来指导你判断是否存在线程安全和竞争问题。
- 程序顺序规则:在程序中,如果A操作在B操作之前(比如A代码在B代码上面,或者由A程序调用B程序),那么在这个线程中,A操作将在B操作之前执行。
- 管理锁定规则:一个unlock操作先于后面对同一个锁的lock操作之前执行。
- volatile变量规则:对一个volatile变量的写操作必须在对该变量的读操作之前发生。
- 线程启动规则:线程的Thread.start()必须在该线程所有其他操作之前发生。
- 线程终止规则:线程中所有操作都先行发生于该线程的终止检测。可以通过Thread.join()方法结束、Thread.isAlive()的返回值判断线程是否终止。
- 线程中断规则:对线程interrupt()方法的调用必须在被中断线程的代码检测到interrupt调用之前执行。
- 对象终结规则:对象的初始化(构造函数的调用)必须在该对象的finalize()方法完成。
- 传递性:如果A先行发生于B,B先行发生于C,那么A先行发生于C。
接下来从下面这个例子感受一下“时间上的先后顺序”“与”“先行发生”之间有什么不同。
private int value = 0; public void setValue(int value){ this.value = value; } public int getValue(){ return value; }
假设存在线程A和B,线程A先调用setValue(1),然后线程B调用了同一个对象的getValue(),那么线程B返回的值是什么?
分析:没有同步块—管程锁定规则不适用;value没有被volatile修饰,所以volatile变量规则不适用;后面的线程启动、终止、中断规则和对象终结规则也扯不上关系,所以我们无法确定这两个线程谁先执行,因此我们说这里的操作时线程不安全的。
如何修复呢?可以为set、get方法定义为synchronized方法,这样可以使用管程锁定规则;或者把value设定为volatile变量,由于set方法对value的修改不依赖value的原值,满足volatile关键字使用场景。
二。 Java与线程
1.线程的实现
线程也叫作轻量级进程,是大多现代操作系统的基本调度单位。在同一个进程中,多个线程共享内存空间,因此需要足够的同步机制才能保证正常访问。每个线程本身都有各自的程序计数器、栈和局部变量等。在java中使用线程调度的方式是抢占式的,需要由操作系统分配执行时间,线程本身无法决定(例如java中,只有Thread.yield()可以让出自己的执行时间,但是并没有提供可以主动获取执行时间的操作)。虽然java中线程调度由系统执行,但是还是可以通过设置线程优先级来“建议”操作系统多给某些线程分配执行时间(然后,这并不一定就能保证高优先级的先执行)。
java语言提供了在不同硬件和操作系统平台下对线程操作的统一处理,每个已经执行start()且还未结束的Thread类的实例就代表了一个线程。Thread类所有关键方法都是生命为Native的。在java APT中,一个Native方法往往意味着这个方法没有使用或无法使用平台无关的手段来实现。
实现线程有三种方式:
①使用内核线程实现:内核线程就是直接由操作系统内核支持的线程,这种线程由内核来完成线程切换,内核通过操纵调度器对线程进行调度,并负责将线程的任务映射到各个处理器上,每个内核线程可以视为内核的一个分身,这样操作系统就有能力同时处理多件事情, 支持多线程的内核就叫做多线程内核。程序一般不会直接去使用内核线程,而是使用内核线程的一种高级接口---轻量级进程,轻量级进程就是我们讲的线程,由于每一个线程都由一个内核线程支持,因此只有先支持内核线程,才能有线程,这种线程与内核线程之间的一比一的关系称为一对一的线程模型。
由于有内核线程的支持,每个线程都成为一个独立的调度单元,即使有一个线程在系统调用中堵塞了,也不会影响整个系统。
缺点是:线程是基于内核线程实现的,所以各种线程操作都需要进行系统调用,而系统调用的代价相对较高,需要在用户态和内核态中来回切换。并且每个线程都要有一个内核线程的支持,因此线程要消耗一定的内核资源,因此一个系统支持线程的数量是有限的。
②使用用户线程实现:广义上讲,一个线程不是内核线程,就可以认为是用户线程,那这样讲,轻量级进程也属于用户线程,但是轻量级进程始终是建立在内核之上的,许多操作都要进行系统调用,因此效率会受到限制。
狭义上的用户线程指的是完全建立在用户空间的县城哭上的,系统内核不能感知线程存在的实现。用户线程的建立、同步、销毁和调度都在用户态中完成,不需要内核的帮助。
操作很快且低消耗,也可以支持规模更大的线程数量,部分高性能数据库中的多线程就是由用户线程实现的。这种进程和用户线程之间1:N的关系称为一对多的线程模型。
缺点是:所有的线程操作都需要用户程序自己处理。线程的创建、切换和调用都是需要考虑的问题,而且由于操作系统只把处理器资源分配到京城,那诸如“阻塞如何处理”、“多处理器系统中如何将线程映射到其他处理器上”这类问题处理起来很苦难。现在使用用户线程的很少
③使用用户线程加轻量级进程混合实现:既存在用户线程,也存在轻量级进程。用户线程还是建立在用户空间中,而操作系统提供支持的轻量级进程则作为用户线程的内核线程之间的桥梁,这样就可以使用内核提供的线程调度功能及处理器映射,并且用户线程的系统调用要通过轻量级线程来完成,大大降低了整个进程被完全堵塞的风险,由于用户线程与轻量级进程的数量比是不一定的的,即为N:M的关系。许多UNIX系列的系统使用这种。
④java线程的实现:在目前的JDK版本中,操作系统支持怎样的线程模型,很大程度上决定了java虚拟机的线程是怎样映射的,这点在不同的同台上没法达成一致,虚拟机规范中也并未限定java线程需要使用哪种线程模型来实现。线程模型只对线程的并发规模和操作成本产生影响,对java程序的编码和运行过程来说,这些差异都是透明的。对于Sun JDK来说,windows版本和Linux版本都是一对一的线程模型实现的,一条java线程就映射到一条轻量级进程之中,因为Windows和Linux平台系统提供的线程模型就是一对一的。
2。java线程调度
线程调度是指线程分配处理器使用权的过程,主要调度方式有两种,分别是协同式线程调度(线程的执行时间由线程本身来控制,线程把自己的工作执行完了只有,要主动通知系统切换到另外一个线程上。好处是实现简单,而且由于线程要把自己的事情干完后才会进行线程切换,切换操作对线程自己事可知的,所以没有什么线程同步额问题。坏处是线程执行时间不可控制,甚至如果一个线程编写有问题,一直不告知一直系统进行线程切换,那么程序就会一直阻塞在那里)和抢占式线程调度(每个线程将由系统来分配执行时间,线程的切换不由线程本身来决定。优点是线程的执行时间是系统可控的,也不会有一个线程导致整个进程阻塞的问题,java使用的线程调度方式就是抢占式调度。)。
虽然线程调度是系统自动完成的,但是我们可以设置线程优先级来建议系统给某些线程多一点的执行时间。不过线程优先级不太靠谱,Java的线程是通过映射到系统的原生线程上来实现的,所以线程调度最终还是取决于操作系统,虽然现在很多操作系统都提供线程优先级的概念,但是并不见得能与java线程的优先级一一对应。还可能优先级会被系统自行改变。
3.状态转换
java语言定义了5种线程状态,在任意一个时间点,一个线程只能有且只有其中的一种状态。
①新建(New)
②运行(Runable)
③无限期等待(Waiting)
④限期等待(Timed Waiting)
⑤阻塞(Blocked)
⑥结束(Terminated)
Java定义了如下几种线程状态,一个线程仅处于一个状态: