搜文章
推荐 原创 视频 Java开发 iOS开发 前端开发 JavaScript开发 Android开发 PHP开发 数据库 开发工具 Python开发 Kotlin开发 Ruby开发 .NET开发 服务器运维 开放平台 架构师 大数据 云计算 人工智能 开发语言 其它开发
Lambda在线 > Java编程精选 > Java 中的伪共享详解及解决方案

Java 中的伪共享详解及解决方案

Java编程精选 2018-07-01

关键时刻,第一时间送达!

1. 什么是伪共享

CPU 缓存系统中是以缓存行(cache line)为单位存储的。目前主流的 CPU Cache 的 Cache Line 大小都是 64 Bytes。在多线程情况下,如果需要修改“共享同一个缓存行的变量”,就会无意中影响彼此的性能,这就是伪共享(False Sharing)。

2. 缓存行

由于共享变量在 CPU 缓存中的存储是以缓存行为单位,一个缓存行可以存储多个变量(存满当前缓存行的字节数);而CPU对缓存的修改又是以缓存行为最小单位的,那么就会出现上诉的伪共享问题。

3. CPU 的三级缓存

由于 CPU 的速度远远大于内存速度,所以 CPU 设计者们就给 CPU 加上了缓存(CPU Cache)。 以免运算被内存速度拖累。(就像我们写代码把共享数据做Cache不想被DB存取速度拖累一样),CPU Cache 分成了三个级别:L1,L2,L3。越靠近CPU的缓存越快也越小。所 以L1 缓存很小但很快,并且紧靠着在使用它的 CPU 内核。L2 大一些,也慢一些,并且仍然只能被一个单独的 CPU 核使用。L3 在现代多核机器中更普遍,仍然更大,更慢,并且被单个插槽上的所有 CPU 核共享。最后,你拥有一块主存,由全部插槽上的所有 CPU 核共享。

当 CPU 执行运算的时候,它先去L1查找所需的数据,再去L2,然后是L3,最后如果这些缓存中都没有,所需的数据就要去主内存拿。走得越远,运算耗费的时间就越长。所以如果你在做一些很频繁的事,你要确保数据在L1缓存中。

Java 中的伪共享详解及解决方案

4. 缓存关联性

下图为一个2-Way的Cache。由图中可以看到 Main Memory 中的 Index 0,2,4 都映射在Way0的不同 CacheLine 中,Index 1,3,5都映射在Way1的不同 CacheLine 中。

Java 中的伪共享详解及解决方案

5. MESI 协议

多核 CPU 都有自己的专有缓存(一般为L1,L2),以及同一个 CPU 插槽之间的核共享的缓存(一般为L3)。不同核心的CPU缓存中难免会加载同样的数据,那么如何保证数据的一致性呢,就是 MESI 协议了。 

在 MESI 协议中,每个 Cache line 有4个状态,可用 2 个 bit 表示,它们分别是: M(Modified):这行数据有效,数据被修改了,和内存中的数据不一致,数据只存在于本 Cache 中; E(Exclusive):这行数据有效,数据和内存中的数据一致,数据只存在于本 Cache 中; S(Shared):这行数据有效,数据和内存中的数据一致,数据存在于很多 Cache 中; I(Invalid):这行数据无效。

那么,假设有一个变量i=3(应该是包括变量i的缓存块,块大小为缓存行大小);已经加载到多核(a,b,c)的缓存中,此时该缓存行的状态为S;此时其中的一个核a改变了变量i的值,那么在核a中的当前缓存行的状态将变为M,b,c核中的当前缓存行状态将变为I。如下图:

6. 解决原理

为了避免由于 false sharing 导致 Cache Line 从 L1,L2,L3 到主存之间重复载入,我们可以使用数据填充的方式来避免,即单个数据填充满一个CacheLine。这本质是一种空间换时间的做法。

7. Java 对于伪共享的传统解决方案

 
   
   
 
  1. /***

  2. **/

  3. import java.util.concurrent.atomic.AtomicLong;

  4. public final class FalseSharing

  5.    implements Runnable

  6. {

  7.    public final static int NUM_THREADS = 4; // change

  8.    public final static long ITERATIONS = 500L * 1000L * 1000L;

  9.    private final int arrayIndex;

  10.    private static VolatileLong[] longs = new VolatileLong[NUM_THREADS];

  11.    static

  12.    {

  13.        for (int i = 0; i < longs.length; i++)

  14.        {

  15.            longs[i] = new VolatileLong();

  16.        }

  17.    }

  18.    public FalseSharing(final int arrayIndex)

  19.    {

  20.        this.arrayIndex = arrayIndex;

  21.    }

  22.    public static void main(final String[] args) throws Exception

  23.    {

  24.        final long start = System.nanoTime();

  25.        runTest();

  26.        System.out.println("duration = " + (System.nanoTime() - start));

  27.    }

  28.    private static void runTest() throws InterruptedException

  29.    {

  30.        Thread[] threads = new Thread[NUM_THREADS];

  31.        for (int i = 0; i < threads.length; i++)

  32.        {

  33.            threads[i] = new Thread(new FalseSharing(i));

  34.        }

  35.        for (Thread t : threads)

  36.        {

  37.            t.start();

  38.        }

  39.        for (Thread t : threads)

  40.        {

  41.            t.join();

  42.        }

  43.    }

  44.    public void run()

  45.    {

  46.        long i = ITERATIONS + 1;

  47.        while (0 != --i)

  48.        {

  49.            longs[arrayIndex].set(i);

  50.        }

  51.    }

  52.    public static long sumPaddingToPreventOptimisation(final int index)

  53.    {

  54.        VolatileLong v = longs[index];

  55.        return v.p1 + v.p2 + v.p3 + v.p4 + v.p5 + v.p6;

  56.    }

  57.    //jdk7以上使用此方法(jdk7的某个版本oracle对伪共享做了优化)

  58.    public final static class VolatileLong

  59.    {

  60.        public volatile long value = 0L;

  61.        public long p1, p2, p3, p4, p5, p6;

  62.    }

  63.    // jdk7以下使用此方法

  64.    public final static class VolatileLong

  65.    {

  66.        public long p1, p2, p3, p4, p5, p6, p7; // cache line padding

  67.        public volatile long value = 0L;

  68.        public long p8, p9, p10, p11, p12, p13, p14; // cache line padding

  69.    }

  70. }

8. Java 8 中的解决方案

Java 8 中已经提供了官方的解决方案,Java 8 中新增了一个注解: @sun.misc.Contended。加上这个注解的类会自动补齐缓存行,需要注意的是此注解默认是无效的,需要在 jvm 启动时设置 -XX:-RestrictContended 才会生效。

 
   
   
 
  1. @sun.misc.Contended

  2. public final static class VolatileLong {

  3.    public volatile long value = 0L;

  4.    //public long p1, p2, p3, p4, p5, p6;

参考文献

http://igoro.com/archive/gallery-of-processor-cache-effects/ 

http://ifeve.com/false-sharing/ http://blog.csdn.net/muxiqingyang/article/details/6615199 https://yq.aliyun.com/articles/62865

@码农们,你们是怎么理解和解决伪共享的?欢迎留言!


  • 来源:Java技术栈

  • https://mp.weixin.qq.com/s/pND6Xm7YGR2aropFApc0xA

  • Java编程精选整理发布,转载请联系作者获得授权

版权声明:本站内容全部来自于腾讯微信公众号,属第三方自助推荐收录。《Java 中的伪共享详解及解决方案》的版权归原作者「Java编程精选」所有,文章言论观点不代表Lambda在线的观点, Lambda在线不承担任何法律责任。如需删除可联系QQ:516101458

文章来源: 阅读原文

相关阅读

关注Java编程精选微信公众号

Java编程精选微信公众号:JavaPush

Java编程精选

手机扫描上方二维码即可关注Java编程精选微信公众号

Java编程精选最新文章

精品公众号随机推荐

下一篇 >>

Java lambda表达式