1.1 cacheline对齐
定义数据结构或者数据缓冲区时申明cache line对齐
1.2 cache一致性问题
cache一致性问题的根源是因为存在多个处理器独占的cache。
1.3 一致性协议
解决一致性问题的机制有2种:基于目录的协议(Directory-based protocl)和总线窥探协议(Bus
snooping protocl),其实还有另外一个snarfing协议,在此不作讨论。
这2类协议的主要区别在于基于目录的协议采用全局统一管理不同cache的状态,而总线窥探协议则使用类似于分布式的系统,每个处理负责管理自己的cache状态,通过共享的总线,同步不同cache备份的状态。
这2类协议中,每个cache block都必须有一个状态字段,cache控制器通常使用一个状态机来维护这个状态域。
基于目录的协议的延迟性较大,但是在拥有很多个处理的系统中,有更好的扩展性。总线窥探协议使用于具有广播能力的总线结构,允许每个处理能监听其它处理器对内存的访问,适合小规模的多核系统。经典的总线窥探协议Write-Once衍生出了MESI协议。
1.4 MESI协议
MESI是cache
line四种状态的首字母的缩写,分别是修改(Modified)态、独占(Exclusive)态、共享(Shared)态和失效(Invalid)态。
1)修改态
如果该cache line在多个cache中都有备份,那么只有一个备份能处于这种状态,并且“dirty”标志位被置上。拥有修改态的cache
line的cache需要在某个合适的时候将该cache line写回到内存中。但在写回前,任何处理器对该cache
line在内存中相对应的内存块都不能进行读操作。cache
line被写回到内存后,修改态就变为共享态。
2)独占态
可以理解为只有一个处理器首次从一块内存中读取数据,相关的cache
line只在一个cache中有备份或者在其它cache中的状态为失效,这个时候dirty标志是没有置上的,它和内存中的内容保持一致。
3)共享态
该cache
line在多个cache中都有备份,并且是相同的状态,它是和内存内容保持一致的一份拷贝,可以在任何时候变成其他三种状态。
4)失效态
该cache line要么不在cache中,要么它的内容已经过时。一旦某个cache
line被标记为失效,那么它就被认为从没有被加载到cache中。
对于某个内存块,当其在2个或多个cache中都保留了一个备份时,只有部分状态是允许的。下表中,横轴和纵轴分别表示了2个cache中某个cache
line的状态。如果一个cache line被设置成了M或E态,那么另外一个只能设置成I态。
表1 MESI中2个cache备份的状态矩阵
M E S I
M × × × √
E × × × √
S × × √ √
I √ √ √ √
表2 MESI状态迁移表