从手写一个DCL单例开始分析volatil
在写DCL单例前我们先简单写一个volatil的例子,从java代码和字节码层面分析volatil底层原理。代码如下:
publicclassDCLVolatil{volatilinti=10;}
你可以在IntlliJ中通过jclasslib插件(自行百度安装)可以看到编译后的字节码格式,这个volatil变量inti对应的格式如下:
文章配图而通常不加volatil的变量,比如intm的字节码标识如下所示:
文章配图可以看出在java代码层面volatil修饰的变量通过javac静态编译后,变成了带有Accssflags0x这个特殊标记的变量,这样之后就可以被JVM识别出来。这里是常量,如果是静态的instanc对象是0xa,非静态的是0x2。
手写DCL单例,第一步你需要应该声明一个volatil的实例变量。(后面会将为什么是volatil的,大家不要着急)。
代码如下:
publicclassDCLVolatil{privatstaticvolatilDCLVolatilinstanc;//0xa}
所以在这个层面你可以得到如下的一张图:
文章配图接着你需要了解一个对象创建的时候的字节码指令,以便于之后分析指令重排序的问题。代码如下:
publicclassDCLVolatil{/***BytCod:AccssFlag0xa*/privatstaticvolatilDCLVolatilinstanc;privatDCLVolatil(){}/***BytCod:*0nw#2org/mfm/larn/juc/volatils/DCLVolatil*3dup*4invokspcial#3org/mfm/larn/juc/volatils/DCLVolatil.init*7asto_0*8aload_0*9aturn*
turn*/publicstaticDCLVolatilgtInstanc(){DCLVolatilinstanc=nwDCLVolatil();turninstanc;}从上面的代码可以看出DCLVolatilinstanc=nwDCLVolatil();的字节码主要是如下几行:
0nw#2org/mfm/larn/juc/volatils/DCLVolatil3dup4invokspcial#3org/mfm/larn/juc/volatils/DCLVolatil.init7asto_0
如果这几条字节码实际就是JVM指令,具体意思可以查阅官方的JVM指令手册。这里我直接用大白话给大家解释下:
nw肯定就是创建一个对象。注意这里只是在堆中分配空间,(叫半初始化)此时instanc=null,并没有指向堆空间
dup其实就是入操作数栈一个变量instanc。
invokspcial其实执行了初始化操作,使用instanc引用指向堆分配的空间。
asto_0将一个数值从操作数栈存储到局部变量表。
JVM指令JVM除了对底层硬件内存模型进行了抽象,对执行CPU指令同样进行了抽象,这样可以更好地做到跨平台性。既然JVM将底层CPU执行指令的过程进行了抽象,这里我们不去细讲JVM,抽象的内容大致可以概况为如下一句话:执行class文件的时候是通过在内存结构,一套复杂的入栈出栈机制执行class中的各个JVM指令,在执行指令层面,它有自己一套独特的JVM指令集,而这写JVM指令就是来源于我们写好的Java代码。
上面过程如下图所示:
文章配图你可以接着完善DCL单例最终为:
publicclassDCLVolatil{privatstaticvolatilDCLVolatilinstanc;privatDCLVolatil(){}publicstaticDCLVolatilgtInstanc()if(instanc==null){synchronizd(DCLVolatil.class){if(instanc==null){instanc=nwDCLVolatil();}}}turninstanc;}}
上面这段代码,doubl判断+synchronizd+valotil这就是典型的DCL单例,线程安全的。可以保证多个线程获取instanc是线程安全,且是同一个对象。synchronizd是为了保证多线程同时创建对象的这个操作的安全性,doubl判断+volotil是为了保证这个创建操作的可见性和有序性。
上面的输出结果证明了这个是线程安全的单例。
你可以测试下:
publicstaticvoidmain(String[]args){nwThad(()-{DCLVolatilinstanc=DCLVolatil.gtInstanc();Systm.out.println(instanc);}).start();nwThad(()-{DCLVolatilinstanc=DCLVolatil.gtInstanc();Systm.out.println(instanc);}).start();}
输出如下:
org.mfm.larn.juc.volatils.DCLVolatil
cdorg.mfm.larn.juc.volatils.DCLVolatil
cd上面的输出结果证明了这个是线程安全的单例。
Java代码+字节码层面分析:为什么会乱序?
Java代码+字节码层面分析:为什么会乱序?
volatil的可见性体现:
instanc==null是volatil的读,instanc=nwDCLVolatil();是volatil的写,线程之间是可见的。
volatil的有序性体现:
要想知道为什么它保证了有序性,需要了解为什么会有乱序、DCL中,字节码乱序了会怎么样。
一个一个来看下,首先是为什么会乱序?
所有的编程语言最终会变成01的机器码,让CPU硬件可以认识。你写的java代码也一样,java代码到CPU执行指令的过程如下图所示:
文章配图图中标红色的就是可能指令重排的地方,因为了提高并发度和指令执行速度,CPU或者编译器会进行指令的优化和重排。但是我们有时候不希望指令重排,打乱顺序可能造成一些有序性问题。这时候就需要一些方法来控制和实现这一点了。Java中volatil关键字就是一种方法。
书曰重排序:是指编译器和处理器为了优化程序性能而对指令序列进行重新排序的一种手段。在单线程程序中,对存在控制依赖的操作重排序,不会改变执行结果(这也是as-if-srial语义允许对存在控制依赖的操作做重排序的原因);但在多线程程序中,对存在控制依赖的操作重排序,可能会改变程序的执行结果。其实可以理解为,就是cpu为了优化代码的执行效率,它不会按顺序执行代码,会打乱代码的执行顺序,前提是不影响单线程顺序执行的结果。(当然了,只考虑cpu级别的重排序,还有其他的)
Java代码+字节码层面分析:字节码乱序了会怎么样?
Java代码+字节码层面分析:字节码乱序了会怎么样?
了解了为什么会乱序后,接着我们看下字节码乱序了会怎么样?
回到上面的DCL单例的代码中,上面你了解了创建一个对象的字节码后,你需要分析下完善后的gtInstanc方法字节码,如下:
0gtstatic#7org/mfm/larn/juc/volatils/DCLVolatil.instanc3ifnonnull37(+34)6ldc#8org/mfm/larn/juc/volatils/DCLVolatil8dup9asto_monitontr11gtstatic#7org/mfm/larn/juc/volatils/DCLVolatil.instanc14ifnonnull27(+13)17nw#8org/mfm/larn/juc/volatils/DCLVolatil20dup21invokspcial#9org/mfm/larn/juc/volatils/DCLVolatil.init24putstatic#7org/mfm/larn/juc/volatils/DCLVolatil.instanc27aload_monitoxit29goto37(+8)32asto_aload_monitoxit35aload_athrow37gtstatic#7org/mfm/larn/juc/volatils/DCLVolatil.instanc40aturn
你可以抓大放小,只关心创建对象的字节码:
10monitontr11gtstatic#7org/mfm/larn/juc/volatils/DCLVolatil.instanc14ifnonnull27(+13)17nw#8org/mfm/larn/juc/volatils/DCLVolatil20dup21invokspcial#9org/mfm/larn/juc/volatils/DCLVolatil.init24putstatic#7org/mfm/larn/juc/volatils/DCLVolatil.instanc27aload_monitoxit29goto37(+8)32asto_aload_monitoxit
monitontr是synchronizd的指令,现在可以先忽略,后面我们讲Synchronizd的时候会详细讲解。
创建对象的字节核心还是3步
1)分配空间,半初始化nw
2)之后进行赋值操作invokspcial
3)再之后进行引用指向对象asto_1
大家可以想象下,如果两个线程同时调用gtInstanc方法。
线程1获取到sychronizd的锁,第一次创建instanc的时候,如果2)3)步的指令发生了重排序,如果没有volatil禁止重排序的话。如下代码创建的instanc就可能不是同一个对象了。
publicstaticDCLVolatilgtInstanc(){if(instanc==null){synchronizd(DCLVolatil.class){if(instanc==null){instanc=nwDCLVolatil();}}}turninstanc;}
线程2获取到了instanc可能是一个半初始化的对象,也就是null,直接使用的话肯定会有问题,就会创建一个新的instanc,不是单例了,这就是有序性造成的问题。
如下图所示:
文章配图再次从JVM层面分析:JVM指令怎么执行的?
再次从JVM层面分析:JVM指令怎么执行的?
经过上面DCL单例的例子,相信你已经对java代码到字节码的volatil的作用有了进一步了解,具体怎么实现可见性和有序性的根本原理呢?这还是在JVM层面实现的,所以下面,我们接着进入JVM层面来分析。
接下来你会明白上面的JVM指令具体如何执行,由谁执行,又遵循哪些规范和规则?
让我们来一一看下。
JVM指令具体如何执行
JVM首先就是通过类加载器加载class到JVM内存区域,之后又通过执行引擎来执行JVM指令。
不同的过JDK版本有不同的的JVM实现。有耳熟能详的HotSpot,有淘宝自己的JVM实现,还有J9、OpnJDK等其他的JVM实现……
但JDK1.8后,最常见的就是HotSpot的JVM的实现。它是一套主要以C++代码为主实现的JVM虚拟机。我们就以HotSpot举例。
上述过程如下图所示:
文章配图那么,编译好的字节码文件被JVM通过类加载器加载到内存结构之后,会被HotSpot来进行调度和执行对应的JVM指令。
怎么执行的呢?
HotSpot是通过内部的解释器、JIT动态编译器(含Clint(C1)编译器、Srvr(C2)编译器)来执行JVM指令。
如下图所示:
文章配图HotSpot是JVM规范的一个实现,它遵循了很多JVM虚拟机规范和JSR规范。
什么是规范?规范可以打个比喻,规范就好比插座的插槽、插头,它们定义了2孔和3孔的间距等等。所有的厂家都得遵循这个规范,才能让所有的插头插入插板,只要这个插头符合规范,可以是任何牌子,也就是任何厂商的实现。而Java领域有很多规范,一般是由一个公共组织JCP来定义的,定义的规范是JSR-XXX。这个其实也有点像java中的接口和实现类的感觉,说白了就是具体事物的抽象定义。
JVM的虚拟机规范定义了一些规则,和可见性和有序性有关的规则是happn-bfo规则:要求8种情况不能乱序执行。(可以自行百度)其中有一条很重要的规则就是:
volatil**变量规则:对一个变量的写操作先行发生于后面对这个变量的读操作。volatil**变量写,再是读,必须保证是先写,再读。
Java中,其中有一个JSR规范,描述了内存屏障相关规范:
1)LoadLoad**屏障:**对于这样的语句Load1;LoadLoad;Load2,在Load2及后续读取操作要读取的数据被访问前,保证Load1要读取的数据被读取完毕。
2)StoSto**屏障:**对于这样的语句Sto1;StoSto;Sto2,在Sto2及后续写入操作执行前,保证Sto1的写入操作对其它处理器可见。
3)LoadSto**屏障:**对于这样的语句Load1;LoadSto;Sto2,在Sto2及后续写入操作被刷出前,保证Load1要读取的数据被读取完毕。
4)StoLoad**屏障:**对于这样的语句Sto1;StoLoad;Load2,在Load2及后续所有读取操作执行前,保证Sto1的写入对所有处理器可见。
网上有很多博客讲解volatil的原理,里面写的乱七八糟的,让人看到头晕眼花。搞不清楚内存屏障,JVM指令各种关系。真心让人看到有些累。4种内存屏障其实是规范定义而已,这一点大家一定要搞明白。
在volatil的JVM实现中,是这么使用屏障的。
文章配图上面四种内存屏障结合happn-bfo原则,其实就是一句话:
比如LoadLoadBarrir,就是表示上面一条Load指令(读指令),下面一条Load指令,不能重排序。
那你肯定就知道了StoLoadBarrir屏障是什么意思。就是表示上面一条Sto指令(写指令),下面一条Load指令,不能重排序。
注意,上面这些规范只是定义,类似于接口,具体怎么实现就得看HotSpot的C++代码了。如下图所示:
文章配图Java代码+字节码层面分析:字节码乱序了会怎么样?
再次从JVM层面分析:HotSpot到底怎么禁止重排序的呢?
再次从JVM层面分析:HotSpot到底怎么禁止重排序的呢?
实际是通过一些C++的fns方法,生成一些汇编语言,最终转换为机器码,执行CPU指令。所谓的内存屏障实际是一条特殊的指令,要求不能换顺序。
如下图所示:
文章配图这里我们不去深入HotSopt源码,在里面也看不出来发送给CPU的指令,需要通过工具才能看出来。你可以通过JIT生成代码反汇编工具:(HSDIS),看出来发送给CPU的汇编代码指令,注意,汇编代码是给人看到,实际CPU还是识别0/1的机器码,来执行Cpu指令的。
通过HSDIS工具,可以执行得到如下JIT反汇编语言:!
文章配图好了到了这里,基本JVM这一层面的volatil原理,就给大家分析清楚了。可以看到,volatil最终会转换为一条CPU的lock前缀指令。
从CPU层面分析:volatil底层原理
从CPU层面分析:volatil底层原理
JVM不同的实现,对发送给CPU的指令实际都一些差异,而且在历史上,CPU实现方式也可能不同,主要有如下三种机制:
文章配图前一个小节提到了lock前缀指令,是最常提到的的方式,适用于所有CPU,所有CPU都支持这个指令。lock前缀指令的之前是锁总线这个硬件的传输,由于性能太差,后面优化成了总线嗅探机制+MESI协议。这样好处是可以跨平台,没有CPU硬件的各种限制。
据我所知,起码OpnJDK和HotSpot是使用lock这种方式的这样的(这个考证起来比较困难,如果这里写的不对,欢迎各位大神指出!)
除了lock前缀指令,也可以通过一些fnc指令做到可见性和有序性的保证,当然耳熟能详的通过MESI协议也可以做到。
下面我们分别来看下这3种机制。
在了解之前,这里需要回顾下计算机的组成和CPU的硬件缓存结构,之前也提到过,CPU的硬件缓存结构实际是可以和JMM内存逻辑模型对应上的。
我们先来看下,计算机的组成如下图:
文章配图再来看下CPU核心组件图:
文章配图有了上面的2张图,你就可以知道,实际CPU执行的是通过共享的内存:高速缓存、RAM内存、L3,CPU内部线程私有的内存L1、L2缓存,通过总线从逐层将缓存读入每一级缓存。如下流程所示:
RAM内存-高速缓存(L4一般位于总线)-L3级缓存(CPU共享)-L2级缓存(CPU内部私有)-L1级缓存(CPU内部私有)。
这样当java中多个线程执行的时候,实际是交给CPU的每个寄存器执行每一个线程。一套寄存器+程序计数器可以执行一个线程,平常我们说的4核8线程,实际指的是8个寄存器。所以Java多线程执行的逻辑对应CPU组件如下图所示:
文章配图当你有了上面几张图的概念,就可以理解指令在不同CPU和缓存直接作用。
CPU硬件实现可见性和有序性3种机制
系统fnc类指令
X86CPU的可以通过fnc类指令实现类似内存屏障的操作:
a)sfnc:在sfnc指令前的写操作当必须在sfnc指令后的写操作前完成。
b)lfnc:在lfnc指令前的读操作当必须在lfnc指令后的读操作前完成。
c)mfnc:在mfnc指令前的读写操作当必须在mfnc指令后的读写操作前完成。
这种机制不太适用于所有CPU,所以目前不怎么采用了。
locc前缀指令
IntlCPUlock前缀汇编指令保证有序性。Lock前缀指令几乎适用于所有CPU。
它的原子指令,如X86的Intl上,localaddlXX指令是一个FullBarrair,会锁住内存子系统来确保执行顺序,甚至跨多个CPU。SoftwaLocks通常使用了内存屏障或者原子指令,来实现变量可见性和保持程序顺序。
上面看上去有点难懂,大家这么理解就行:
这个指令最早的时候,其实人家用的是一个叫做总线加锁机制。目前应该已经没有人来用了,他大概的意思是说,某个cpu如果要读一个数据,会通过一个总线,对这个数据加一个锁,其他的cpu就没法通过总线去读和写这个数据了,只有当这个cpu修改完了以后,其他cpu可以读到最新的数据。
但是由于这样多线程下会造成串行化,性能低,后来结合lock前缀指令+总线嗅探机制+广为人知的MESI协议进行了优化。(这里如果说的不准确,大家可以提出来)。
所以我们来具体研究下MESI到底通过哪些指令来实现,MESI的机制流程有时如何的。
MESI协议
缓存一致性协议有很多,比如除了MESI之外的缓存一致性协议还有MSI、MOSI、SynapsFiflyDragon等等。
这里用的最多的就是MESI这个协议。
什么是MESI协议?
MESI协议规定:对一个共享变量的读操作可以是多个处理器并发执行的,但是如果是对一个共享变量的写操作,只有一个处理器可以执行,其实也会通过排他锁的机制保证就一个处理器能写。
要想理解这个协议需要具备两个前提:
1)熟悉MESI的4个指令
2)熟悉CUP结构和缓存行的数据结构
首先先来了解下缓存行的概念:
缓存行默认是64字节Byt,(程序局部性原理,当读取一条数据的时候,也会读取它附近的元素,很大可能会用到)经过工业界实践,可以充分发挥总线CPU针脚等一次性读取数据的能力,提高效率。
一般情况,缓存行的基本单位是一个64字节的数据,用于在L1、L2、L3、高速缓存Cach间传输数据。
处理器高速缓存的底层数据结构实际是一个拉链散列表的结构,就是有很多个buckt,每个buckt挂了很多的cachntry,每个cachntry由三个部分组成:tag、cachlin和flag,其中的cachlin就是缓存的数据。
tag指向了这个缓存数据在主内存中的数据的地址,flag标识了缓存行的状态,另外要注意的一点是,cachlin中可以包含多个变量的值。
文章配图接着再来了解下MESI的4个指令:
MESI协议规定了一组消息,就说各个处理器在操作内存数据的时候,都会往总线发送消息,而且各个处理器还会不停的从总线嗅探最新的消息,通过这个总线的消息传递来保证各个处理器的协作。
之前说过那个cachntry的flag代表了缓存数据的状态,MESI协议中划分为:
(1)invalid:无效的,标记为I,这个意思就是当前cachntry无效,里面的数据不能使用
(2)shad:共享的,标记为S,这个意思是当前cachntry有效,而且里面的数据在各个处理器中都有各自的副本,但是这些副本的值跟主内存的值是一样的,各个处理器就是并发的在读而已
(3)xclusiv:独占的,标记为E,这个意思就是当前处理器对这个数据独占了,只有他可以有这个副本,其他的处理器都不能包含这个副本
(4)modifid:修改过的,标记为M,只能有一个处理器对共享数据更新,所以只有更新数据的处理器的cachntry,才是xclusiv状态,表明当前线程更新了这个数据,这个副本的数据跟主内存是不一样的
到底底层是如何实现这套MESI的机制,通过哪些指令,这个指令干了什么事情,才能保证说,我刚才说的那种效果,修改本地缓存,立马刷主存,其他cpu本地缓存立马工期,重新从主存加载。
下面来详细的图解MESI协议的工作原理:
读I-S
处理器0读取某个变量的数据时,首先会根据indx、tag和offst从高速缓存的拉链散列表读取数据,如果发现状态为I,也就是无效的,此时就会发送ad消息到总线
接着主内存会返回对应的数据给处理器0,处理器0就会把数据放到高速缓存里,同时cachntry的flag状态是S。如下图所示:
文章配图CPU1:S-I-I-ack
在处理器0对一个数据进行更新的时候,如果数据状态是S,则此时就需要发送一个invalidat消息到总线,尝试让其他的处理器的高速缓存的cachntry全部变为I,以获得数据的独占锁。
其他的处理器1会从总线嗅探到invalidat消息,此时就会把自己的cachntry设置为I,也就是过期掉自己本地的缓存,然后就是返回invalidatack消息到总线,传递回处理器0,处理器0必须收到所有处理器返回的ack消息
CPU0:S-I-ack-E-M
接着处理器0就会将cachntry先设置为E,独占这条数据,在独占期间,别的处理器就不能修改数据了,因为别的处理器此时发出invalidat消息,这个处理器0是不会返回invalidatack消息的,除非他先修改完再说
接着处理器0就是修改这条数据,接着将数据设置为M,也有可能是把数据此时强制写回到主内存中,具体看底层硬件实现
然后其他处理器此时这条数据的状态都是I了,那如果要读的话,全部都需要重新发送ad消息,从主内存(或者是其他处理器)来加载,这个具体怎么实现要看底层的硬件了,都有可能的。
上述过程如下图所示:
文章配图这套机制其实就是缓存一致性在硬件缓存模型下的完整的执行原理。
小结
到这里我们从三个层面,Java代码和字节码-JVM层-CPU硬件原理层面,剖析了Volatil底层原理,相信大家对它的可见性、有序性深刻的理解。
这一节涉及的知识特别多,也特别烧脑,大家理解了它的原理之后,更重要的是记住它的使用场景。我给大家总结如下:
原理:
一句话简单概括volatil的原理:就是刷新主内存,强制过期其他线程的工作内存。你可以在不同层面解释:
在java代码层面
场景:
1、多个线程对同一个变量有读有写的时候
2、多个线程需要保证有序性和可见性的时候
除了DCL单例,还有线程的优雅关闭这些场景,大家可以在评论去发表自己遇见过的场景。
本文由博客群发一文多发等运营工具平台OpnWrit发布