写命中

写直达(Write Through)

信息会被同时写到cache的块和主存中。这样做虽然比较慢,但缺少代价小,不需要把整个块都写回主存。也不会发生一致性问题。

对于写直达,多出来%10向主存写入的存储指令使得其比其单纯向Cache写入的速度慢上将近10倍。这种速度不一致的问题,不管是在硬件结构还是软件,有着一条“不管怎么样,先试试这样行不行”的办法:并行加缓冲。

Cache写策略(Cache一致性问题与骚操作)-LMLPHP

我们使用写缓冲(Write Buffer)来解决这个问题,CPU写入Cache的同时会写入Write Buffer。缓冲中的内容什么时候写入主存交给存控(Memory Controller)来控制,CPU将省下的时间去处理其他事情。

然而当写操作频繁的时候,这点容量就不够用了,容易饱和发生阻塞,就相当于没加一样...

解决的办法可以是再加一级Cache,变成二级缓存。什么,你问为什么不把两级Cache和一起,搞那么多干什么?这个二级当然是慢一点的便宜货,咱们弄这些东西,不就是因为越快东西越贵,买不起嘛土豪!

对于缓冲的问题,还有个关于合并写对程序效率的影响, 具体可以参考这篇博文

第二种办法就是改变策略使用写回,也就是下面介绍的方法。

写回(Write Back)

信息仅仅写到Cache中的块。当其被替换时,信息才会被写回到主存中。虚拟存储器系统通常采用写回策略,因为写到磁盘的延迟代价太大。

写回的速度要更快一些,因为不必每次写操作都访问主存。但这样我们如何保证一致性问题呢?我们可以给每行添加一个脏位(dirty bit),这样我们替换这块Cache时就可以根据脏位来判断是否需要写回主存。如果没有被“弄脏过”,那么就不需要写回主存。

不过对于同一块Cache中的变量X,他不是太喜欢这个机制。因为它的邻居Y老是被修改,导致X这个只被读取的变量老得往内存跑,它不想跟Y待在一起了,太累人了。

聆听了X的心声,我们有什么办法可以帮助它吗?办法当然是有的,让Y这个烦人的家伙单独待着就行。下面分别运行两个程序,排除首次装入的影响(其实写一块也行,对齐的技巧源自Disruptor)

public class Padding {

    private static class X {
        public long p1,p2,p3,p4,p5,p6,p7;//cache padding
        public volatile long x=0L;
        public long p9,p10,p11,p12,p13,p14,p15;
        //8*8刚好占满Cache一行,p9...p15只是为了确保x单独在一行中,不与其他频繁修改的变量在一起
    }
    public static X[] arrX=new X[2];
    static {
        arrX[0]=new X();
        arrX[1]=new X();
    }
    public static void main(String[] args) throws InterruptedException {
        Thread thread1=new Thread(()->{
            for(long i=0;i<100_000_000L;i++)
                arrX[0].x=i;
        });

        Thread thread2=new Thread(()->{
            for(long i=0;i<100_000_000L;i++)
                arrX[0].x=i;
        });
        final long start=System.nanoTime();
        thread1.start();
        thread2.start();
        thread1.join();
        thread2.join();
        System.out.println((System.nanoTime()-start)/1_000_000);
    }
}
package mytask;

public class NoPadding {
    private static class X {
        public volatile long x=0L;
    }

    public static X[] arrX=new X[2];
    static {
        arrX[0]=new X();
        arrX[1]=new X();
    }

    public static void main(String[] args) throws InterruptedException {
        Thread thread1=new Thread(()->{
            for(long i=0;i<100_000_000L;i++)
                arrX[0].x=i;
        });

        Thread thread2=new Thread(()->{
            for(long i=0;i<100_000_000L;i++)
                arrX[0].x=i;
        });
        final long start=System.nanoTime();
        thread1.start();
        thread2.start();
        thread1.join();
        thread2.join();
        System.out.println((System.nanoTime()-start)/1_000_000);
    }
}

写不命中

对于写不命中,有两者方法:写分配与非写分配。前者利用空间局部性,每次都从主存中读取一个块装入Cache更新相应单元。后者则是直接写主存单元,不将主存块装入Cache。

07-05 00:05