多级缓存与局部性原理

参考文献

• 《计算机组成与体系结构》-黑皮书，第六章 存储器
• 系统架构设计师教程–第一章

局部性原理

• Cache改善系统性能的依据
• 使用少量速度非常快的存储器来加速对系统主要存储器的访问
• 计算机程序都具有局部性特征

引用的局部性

• 如果处理器在t时刻访问了存储单元X，那么在不久的将来访问存储单元X+1的可能性会非常高
• 三种基本形式
  • 时间局部性
    • Temporal locality
    • 最近访问过的内容很可能在不久的将来再次访问
  • 空间局部性
    • Spatial locality
    • 对存储器地址空间的访问形成团簇的集中倾向
    • 例如：在数组或循环中操作
  • 顺序局部性
    • Sequential locality
    • 访问存取器的指令倾向于按顺序执行

一些术语

• 字域
  • world field
  • 数据字的块内地址
• 命中
  • hit
  • 请求的数据就驻留在指定访问的存储器层
• 缺失
  • miss
  • 请求的数据不在要访问的存储层

高速缓存

• 高速缓存存储器有时也会被称为按内容寻址的存储器（content addressable memory， CAM）
• 主存和高速缓存都将按块划分
  • 若CPU在高速缓存未发现，会将该数据存放的块加载到高速缓存

高速缓存映射模式

• 三种模式

直接映射的高速缓存

• 如图，按顺序映射到高速存储器，块0和块10都映射到高速存储器的块0，它们将通过竞争来决定谁将霸占整个坑位

全关联高速缓存

• 允许主存储器存放到高速缓存任意位置
• 专用硬件，比较昂贵

组关联高速缓存

• 上面两种方式的平衡,折衷方式

替换算法（淘汰算法）

• 当Cache已存满，且Cache miss hit，新数据将淘汰某些旧数据

• 三种

  • 随机算法
  • FIFO
  • LRU
    • Least Recently Used, LRU算法

写操作

• 写直达
  • write through
  • 同时写回Cache和主存
• 写回
  • write back
  • CPU修改Cache某一块，不直接写入主存，而是等Cache淘汰时写入主存
• 标记法
  • 只需写入内存
  • 若标志位为"1"，则从Cache中取，若为“0”，则从主存中取

提示

• 内存与Cache之间的映射往往采用硬件完成，软件编程时，完全不用考虑Cache