高速缓存

程序和数据是存储在磁盘中的，由于访问磁盘的速度非常慢，所以在程序执行的过程中，需要将磁盘中的程序和数据加载到内存中。这样可以将内存看成磁盘的cache

虽然说内存比磁盘快很多，但是对于现在的CPU来说，访问内存还是太慢了。所以CPU里面还有高速缓存。

分层

为何这种层次是可行的

从硬件上：较慢的存储设备比较快的存储设备更便宜
从软件上：一个编写良好的程序应该具备良好的局部性
- 时间局部性：一个数据第一次被访问后，很可能在不久以后再次被访问
- 空间局部性：一个数据被访问以后，那么程序很可能在不远的将来访问这个数据附近的数据

访问过程

注：缓存不命中到下一层取数据时是以数据块的形式拿数据的，一般一个数据块是4KB，因为空间局部性

缓存中的结构

如何定位

高速缓存的命名

如果E = 1，即一个组内只有一个缓存行，则称：直接映射高速缓存
如果1 < E < C/B，即一个组内有多个缓存行，则称：组相联高速缓存
- E = 2：称为2路组相联高速缓存
- E = 3：称为3路组相联高速缓存
如果E = C / B，则称：全相联高速缓存

如果高速缓存中没有数据，且该组中的所有行数据都是有效的。那么我们需要选择一行数据替换出去。

可以使用局部性原理：

比如CPU需要向内存中写数据，即需要把高速缓存中的数据同步到内存中。有两种方法，一种是写直达，一种是写回

写直达

这种方式比较简单，但是由于每次写数据的时候都需要经过内存总线，速度很慢。

写回

主要的思想是推迟更行，等到替换算法需要去驱逐这个“脏”缓存块的时候，才将数据写入内存。由于局部性原理，可以减少总线流量。

对于要写入的数据，如果缓存命中，将数据写入缓存块，并标记为“脏”
如果缓存不命中，则定位缓存块
- 如果定位到的要被替换的缓存块为“脏”，则将该“脏”数据块写入内存。然后从内存中读取缓存不命中的数据，并将要更新的数据写入缓存块中，并标记为“脏”
- 如果缓存块不是“脏的”，直接从内存中读取数据到缓存中，将数据写入缓存块，并标记缓存块为“脏”

性能指标

成本和性能的折中

高数缓存大小的影响
- 大的高速缓存块可以提高命中率，但是同时也会提高命中时间
缓存块大小的影响
- 大的缓存块可以尽可能的利用空间局部性，帮助提高命中率。但是如果缓存大小已经确定，大的缓存块会使得缓存行减少，会损害时间局部性比空间局部性好的程序的命中率。
- 现代操作系统一般会选择64字节作为缓存块大小
相连读的影响
- 较高的相连度可以降低由于冲突不命中出现抖动的可能。不过，较高的相联度会造成较高的成本，且速度很难变快，因为要搜索很多缓存行。

CPU每次访问内存中的数据都需要两次访问内存：

TLB是块表，用于缓存页表项（PTE），减少一次访问内存时间。MMU读取页表项的时候，不会先去访问主存，而是先到TLB中找这个页表项，如果不在TLB中，再去主存中读取。

含有TLB以后如何访问页表

CPU先将虚拟地址给到MMU，MMU通过虚拟地址中的虚拟页号到TLB中读取页表项

L3统一高速缓存，所有核共享的
DDR3内存控制器，所有核共享
L1 d-cache 对应 L1 d-TLB，L1 i-cache 对应 L1 i-TLB。每个L1 cache都会有一个L1 TLB与其对应