CPU与缓存的关系

1、CPU与缓存的关系缓存是现代CPU中必不可少的组成部分之一，并且随着CPU主频的不断提升，缓存的作用越来越大。因为目前内存的速度更本无法满足CPU频率提升的需求，从缓存出现的原因也就是为了协调速度较低的内存同处理器之间可以更好的工作以及匹配问题。今天我们就来探讨一下缓存对系统的性能影响，从而让大家明晰目前处理器缓存发展的方向。缓存的工作原理：为了让大家更好的理解系统缓存的作用，我们可以将处理器和内存系统想象成为使用者和供货商（Client-Server模式）。CPU“消费”由硬盘及内存提供的数据。由于制造技术和设计的进步，CPU的消费能力已经大大超过了存储系统的供应能力，尽管存储系统也有些进步

2、（UDMA、Rambus等），CPU的时钟循环相对与内存和总线而言，越来越短，于是CPU不得不在存储系统提供足够的数据前等待，什么也不能做。而且每当CPU的频率提升，这样的差距就更是明显。如果将CPU比作一个城里的家具厂，而将存储系统比作郊区的木料厂，那么实际情况就是木料厂离家具厂越来越远，即使使用更大的卡车来运送木料，家具厂也得停工来等待木料送来。在这样的情况下，一种解决方法是在市区建立一个小型仓库，在里面放置一些家具厂最常用到的木料。这个仓库实际上就是家具厂的“Cache”，家具厂就可以从仓库不停的及时运送需要的木料。当然，仓库越大，存放的木料越多，效果就越好，因为这样即使是些不常用的东西

3、也可以在仓库里找到。如果我们需要的木料仓库里没有，就要从城外的木料厂里继续找，而家具厂就得等着了。从上面的比喻来看，仓库就是相当于L1缓存的概念，可以由CPU进行及时的快速读写，其内部数据主要存放的是CPU最常用代码和数据（如何挑选“最常用”的数据，我们稍后进行叙述）。L1缓存的速度比系统内存快的多关键因素是采用了速度更高的SRAM（同步存储器），这种内存单晶元使用四到六个晶体管，因此SRAM的造价比DRAM高的多，因此很少用在系统的主存上。在大多数CPU上，L1缓存和核心是整合在一块芯片里面的，如果在我们家具厂的例子中，就好比工厂和仓库在同一条街上。这样的设计使CPU可以从最近最快的地方得到

4、数据，但是也使得“城外的木料厂”到“仓库”和到“家具厂”的距离差不多远。这样如果CPU需要的数据不在L1缓存中，也就是“Cache Miss”，从存储设备取数据就要很长时间了。处理器速度越快，两者之间的差距就越大。如果使用Pentium 4那样的高频率处理器，从内存中取得数据就相当于“木料厂”位于另一个国家。看看上面这张表格，上面列出了不同等级的分级存储器体系的信息。可以看到L1缓存和系统内存之间读写距离差距相当的大。对于一个1GHz的CPU而言，50ns的等待时间就等于有50个时钟周期处理器处于空闲状态，这就造成了资源的浪费。为了解决这种问题最好的办法就是增加缓存容量，增加L1缓存也许是最直

5、接的办法，但是出于成本的考虑这种方案并不可行，因为增加L1缓存所带来性能提升显然没有其成本耗费来的高。在权衡成本和系统性能提升后，最好的方法应该是为L1缓存加附加缓存，也就是目前流行的L2缓存。L2缓存位于L1缓存和系统内存之间，通常存储L1缓存中数据的扩充部分，可以这么说，L1缓存是L2缓存的子集。我们来举个例子说明，CPU如何将存储系统中的一个“Byte”数据读入到自己的寄存器中。首先，读取指令先到达L1缓存，看看其中有没有需要的那个“Byte”。如果L1中没有，就出现了所谓的“Cache Miss（缓存缺失）”情况，也就无法满足指令要求，那么指令就会转到L2缓存中去找。如果L2中还没有C

6、PU需要的那个“Byte”，就要去系统内存中进行大海捞针式的搜索了。如果系统内存里还是没有，就要去速度最慢的硬盘上找寻，这样的过程将大量浪费CPU时间。如果那个CPU需要的那个“Byte”在主内存中找到了，那么它和它周围的数据将一起复制到L2和L1缓存中去，这一系列“Byte”就称为“Cache block（缓存区块）”或是“Cache line（缓存列）”。这样如果CPU再次需要这个“Byte”，那么就可以在L1缓存中找到，这种情况被称为“Cache hit（缓存命中）”。在电脑运行机制中，通常有三种“缺失”（Miss）情况。其中“Compulsory Miss（强制缺失）”就是指我们上面描述的这种情况，CPU需要的数据