为提高程序运行的性能,现代CPU在很多方面对程序进行了优化。
例如:CPU高速缓存。尽可能地避免处理器访问主内存的时间开销,处理器大多会利用缓存(cache)以提高性能。
CPU读取数据是:先从L1找,再从L2找,再从L3找,然后是内存,最后是外存储器(硬盘)。
多CPU读取同样的数据进行缓存,进行不同的运算,最终写入主内存以哪个CPU为为准?
缓存同步协议- MESI协议,利用四个标志位
多处理器时,单个CPU对缓存中的数据进行了改动,需要通知给其他CPU。也就是说,CPU除了要控制自己的读写操作,还要监听其他CPU发出的通知,从而保证最终一致。
指令重排的场景:
当CPU写缓存时发现缓存区块正被其他CPU占用,为提高CPU的处理兴能,可能将后面的读缓存命令优先执行。
并非随便重排,需遵守as-if-serial语义
不管怎么重排序(编译器和处理器为了提高并行度),(单线程)执行的结果不能被改变。编译器,runtime和处理器都必须遵循as-if-serial语义。意味着:编译器和处理器不会对存在数据依赖关系的操作做重排序。
CPU高速缓存下存在一个问题
缓存中的数据与主内存的数据并不是同步的,各CPU(或CPU核心)间缓存的数据也不是实时同步的。在同一时间点,各CPU所看到同一内存地址的数据的值可能不一致。
CPU执行指令重排序优化存在一个问题:
虽然遵守遵守as-if-serial语义,单仅仅是在单CPU
自己执行的情况下能保证结果正确,多核多线程中,指令逻辑无法分辨因果关联,可能出现乱序执行,导致运行结果出错。
处理器提供了两个**内存屏障指令(Memory Barrier)**用于解决上述两个问题:
写内存屏障(Store Memory Barrier)
在指令后插入Store Barrier
,能让写入缓存中的最新数据更新写入主内存,让其他线程可见。
【总结】强制将缓存中最新数据写入主内存,CPU就不会因为性能考虑而去做指令重排序
读内存屏障(Load Memory Barrier)
在指令执行前插入Load Barrier
,可以让高速缓存中的数据失效,强制重新从主内存加载数据。
【总结】强制 读取主内存数据,让CPU缓存与主内存保持一致,避免了缓存导致的一致性问题
内容来源于网络,如有侵权,请联系作者删除!