多级结构的存储器系统

1、第7章 多级结构的存储器系统 7.1 存储器系统概述 7.2 主存部件的组成与设计 7.3 外存储器设备与磁盘阵列技术 7.4 高速缓冲存储器 7.5 虚拟存储器概述1、存储器概述存储器的作用 计算机中用来存放程序和数据的部件，是冯.诺依曼结构计算机的重要组成部分。在现代计算机中，存储器处于全机的中心地位。主存储器存放当前正在执行的程序和数据，CPU从中读取指令和存取数据；随着IO设备的增加，数据传输速度加快，DMA 技术和IO 通道技术广泛使用，直接在存储器和 IO设备间传送数据；共享存储器的多处理机的出现，需要利用存储器存放共享的数据，实现处理机间通信。对存储器系统的要求存储器系统的设计目

2、标尽可能快的存取速度：应能基本满足CPU对数据的要求尽可能大的存储空间：可以满足程序对存储空间的要求尽可能低的单位成本：（价格/位）应在用户能够承受范围内CPU与DRAM性能比较 计算机硬件系统的组成输入设备输出设备入出接口和总线虚拟存储主存储器高速缓存控 制 器运 算 器以存储器为中心的计算机结构框图程序存储器输出设备输入设备运算器控制器数据结果计算多级结构存储器系统实现存储器系统的多个目标采用多级结构的存储器系统基本思想选用生产与运行 成本不同 的、存储 容量不同 的、读写 速度不同 的多种存储介质，组成一个统一的存储器系统，使每种介质都处于不同的地位，发挥不同的作用，充分发挥各自在 速度

3、、容量、成本 方面的优势，从而达到最优性能价格比，以满足使用要求。多级结构存储器系统典型多级存储器系统的层次使用容量较小但速度最快的 SRAM芯片组成高速缓存存储器CACHE；使用容量较大速度适中的 DRAM芯片组成 主存储器MAIN MEMORY；使用容量特大但速度较慢的磁盘设备构成虚拟存储器 VIRTUAL MEMORY。 三级存储系统现代计算机中的存储层次利用程序运行的局部性原理以最低廉的价格提供尽可能大的存储空间以最快速的技术实现高速存储访问程序运行的局部性原理什么是程序运行的局部性原理？是指CPU对存储器中程序和数据的访问，在一小段时间内，总是集中在一小块存储空间。程序运行的局部性原

4、理表现方面时间方面：在一小段时间内，最近被访问过的程序和数据很可能再次被访问，例如：程序循环空间方面：在空间上这些被访问的程序和数据往往集中在一小片存储区，例如：数组存放指令执行顺序方面：在访问顺序上，指令顺序执行比转移执行的可能性大 (大约 5:1 )多级结构存储器之间应满足的原则一致性原则同一个信息可以处在不同层次存储器中，此时，这一信息在几个级别的存储器中应保持相同的值。包含性原则处在内层存储器中的信息一定被包含在其外层的存储器中，反之则不成立。即内层存储器中的全部信息是其相邻外层存储器中一部分信息的复制品。2、主存储器与CPU的连接计算机中存储正处在运行中的程序和数据(或一部分) 的部

5、件，通过地址、数据、控制三类总线与 CPU等其他部件连通。地址总线 AB 的位数决定了可寻址的最大内存空间数据总线 DB 的位数与工作频率的乘积正比于最高数据吞吐能力控制总线 CB 指出总线周期的类型和本次读写操作完成的时刻READYWRITEREADMainMemoryAB k 位（给出地址）DB n 位（传送数据）例如：k= 32 位n= 32 位CPUARDR主存储器的读写过程主存储体数据寄存器地址寄存器/WE/CS0/CS1读过程：给出地址给出片选与读命令保存读出内容写过程：给出地址给出片选与数据给出写命令主存储体主存储器主要技术指标存取时间通常用读写一个存储单元所需时间度量，即读写速

6、度存储周期连续两次读写存储单元所需的时间间隔一般大于读写一次存储单元的存取时间存储容量通常用构成存储器的字节（8位）或者字数（2、4、8个字节）表述多数计算机能在逻辑上同时支持按字节或者按字读写存储器（按字节编址）构成的主存储器的半导体芯片芯片容量译码驱动存储矩阵读写电路1K 4位16K 1位8K 8位片选线地址线读/写控制线数据线地址线（单向）数据线（双向）104141138半导体存储芯片的基本结构3、存储器的容量扩展 存储器芯片的容量是有限的，为了满足实际存储器的容量要求，需要对存储器进行扩展。存储器容量扩展的主要方法有： 位扩展法：只加大字长，而存储器的字数与存储器芯片字数一致，对所有片

7、子使用共同片选信号； 字扩展法：仅在字向扩充，而位数不变。需由片选信号来区分各片地址。 字位同时扩展法：一个存储器的容量假定为MN位，若使用lk 位的芯片(lM，kN)，需要在字向和位向同时进行扩展。此时共需要(M/l)(N/k)个存储器芯 片。 (1) 位扩展（增加存储字长） 用 2片 1K 4位 存储芯片组成 1K 8位 的存储器10根地址线8根数据线DDD0479AA021142114CSWE (2) 字扩展（增加存储字的数量） 用 2片 1K 8位 存储芯片组成 2K 8位 的存储器11根地址线8根数据线 1K 8位 1K 8位D7D0WEA1A0A9CS0A10 1CS1 (3) 字

8、、位扩展用 8片 1K 4位 存储芯片组成 4K 8位 的存储器8根数据线12根地址线WEA8A9A0.D7D0A11A10CS0CS1CS2CS3片选译码.1K41K41K41K41K41K41K41K4教学计算机的内存储器实例设计基本要求需要ROM来存放监控程序需要RAM供用户和监控程序使用能够让用户进行扩展地址总线：16位数据总线：16位控制总线：时钟信号：与CPU时钟同步，简化设计读写信号：由/MIO，REQ和/WE译码生成内存和IO读写信号教学机静态存储器字位扩展为访问 8192 个存储单元，需要使用13位地址，应把地址总线的低13位地址送到每个58C65存储器芯片的地址引脚；为访问

9、 2048 个存储单元，需要使用11位地址，应把地址总线的低11位地址送到每个6116存储器芯片的地址引脚； 对地址总线的高3位译码，产生的译码信号送相应的存储器芯片的片选信号引脚 /CS，用于选择让哪一个地址范围的存储器芯片工作。还要向存储器芯片提供读写控制信号 /WE，以区分是读、还是写操作，/WE信号为高电平是读，为低是写。教学机静态存储器字位扩展地址总线低13位高位地址译码给出片选信号/CS0/CS1高八位数据低八位数据/WE 2K * 8 bit 8K * 8 bit 8K * 8 bit 2K * 8 bit 译码器131131101FFF200027FF7.4 高速缓冲存储器（C

10、ache）用途：设置在 CPU 和 主存储器之间，完成高速与 CPU 交换信息，尽量避免 CPU不必要地多次直接访问速度要慢一些的主存储器，从而提高计算机系统的运行效率。实现：这是一个存储容量很小、但读写速度更快、以 关联存储器方式 运行、用静态存储器芯片实现的存储器。要求：有足够高的命中率，既当 CPU需用主存中的数据时，多数情况可以直接从Cache中得到，称二者之比为命中率。微电子技术发展趋势CPU与DRAM性能比较程序的局部性原理程序在一定时间段内通常只访问较小的存储空间两种局部性：时间局部性和空间局部性时间局部性：最近被访问的信息很可能还要被访问。将最近被访问的信息项装入到Cache中

11、。空间局部性：最近被访问的信息临近的信息也可能被访问。将最近被访问的信息项临近的信息一起装入到Cache中。地址空间访问概率CACHE的基本运行原理Cache存储单元的组成部分数据字段：保存从主存单元复制过来的数据标志字段：保存相应主存单元的地址信息有效位字段：标识本cache项中信息（数据和标志）的有效性有效位CACHE标志数据TAG DATA CACHECACHE的基本运行原理MEMORY 数据总线译码选一单元比较选一行读过程为例地址总线TAG DATA CPU CPU送出地址读出主存一个单元的数据，用时会比较长。若在主存和CPU之间增加一个速度更快的存储器，可否让CPU直接从这个快速存储

12、器中读出数据 呢？当然读的必须是原来主存地址选中的那个主存单元的内容。怎么实现这个功能 ？只有把那个主存单元的内容先复制到快存中才有可能，但读快存的那个单元呢 ？这必和原主存地址相关若复制数据时把地址也一起复制过来当标志，使其结成地址_数据联合体，则可能解决问题。有效位提高Cache性能并降低成本Cache单元的大小：cache line size（几个主存字，减少标志位位数，从而减少Cache的总容量）Cache与主存交换数据的单位： cache line size（充分利用空间局部性）Cache单元与主存单元的对应关系，例如：完全随意对应一对多硬性对应多对多有限随意对应Cache的容量、分

13、层组织、接入方式等方面CACHE的3种映像方式地址映像：把一主存单元的数据复制到Cache中时，还要把该主存单元的地址，经过某种函数关系处理后写进Cache的标志字段，这一过程被称为Cache的地址映像。地址变换：在程序执行时，需要把主存地址变换为访问Cache的地址，这一过程被叫做Cache的地址变换。 Cache存储器通常使用种映像方式，它们是全相联映像方式、直接映像方式、多路组相联映像方式，3种映像方式有各自的优缺点。全相联映像方式全相联映像方式：是指主存的一个字块可以映像到整个CACHE中的任何一个字块中。全相联映像方式特点：主存的字块可以和Cache的任何字块对应，利用率高，方式灵活

14、。标志位较长，比较电路的成本太高。如果主存空间有2m块，则标志位要有m位。同时，如果Cache有n块，则需要有n个比较电路。比较电路复杂，使用成本太高全相联映像方式C P U数据主存字块标记有效位主存储器CACHE比较译码标志数据主存字块标记块内地址主存地址全相联硬件实现举例直接映像方式直接映像方式：是指 主存的一个字块只能映像到Cache中确定的一个字块。按照Cache的字块数把主存分区，则每个主存区中的第个字块只能映像到Cache的第个字块中。直接映像方式特点：主存的字块只可以和固定的Cache字块对应，方式直接，利用率低。标志位较短，比较电路的成本低。如果主存空间有2m块，Cache中字

15、块有2c块，则标志位只要有m-c位。而且在访问Cache时候仅需要比较一次。利用率低，命中率低，效率较低直接映像方式C P U数据有效位主存储器CACHE比较译码译码cache字块地址主存字块标记标志数据主存字块标记块内地址主存地址cache字块地址直接映像硬件实现举例多路组相联映像方式多路组相联映像方式：是对全相联映像和直接映像的一种折衷的处理方案。既不在主存和Cache之间实现字块的完全随意对应，也不在主存和Cache之间实现字块的多对一的硬性对应，而是实现一种有限度的随意对应。 多路组相联映像方式特点：折衷方案：组间为全相连，组内为直接映像；集中了前面两种方式的优点，成本也不太高。最常用

16、的CACHE映像方式组地址两路组相联映像方式C P U数据有效位主存储器CACHE译码比较比较译码译码标志数据主存地址主存字块标记块内地址组地址主存字块标记路组相联硬件实现举例三种映像方式比较全相联映像主存中的一块可以映射到Cache中任何一个位置直接映像主存中的一块只能映射到Cache中唯一的一个位置访问Cache进行定位时，不需要判断，只需替换多路组相联映像主存中的一块可以选择映射到Cache中有限的多个位置全相联映像和多路组相联映像的失效处理在Cache中没有找到需要数据，从主存中取出新块为了腾出Cache空间，需要替换出一个Cache块不唯一，则需要判断应替出哪块Cache使用中的几个

17、问题CACHE的重要技术指标：命中率影响 CACHE 命中率的因素CACHE 的容量，大一些比较好CACHE 与主存每次交换的信息量要适中CACHE 不同的组织方式，多路组相联更好CACHE 的多级组织可提高命中率CACHE 装满后的替换算法（全相联、多路组相联）cache的容量与命中率的关系 Cache Size in KBHit Ratecache line size、cache容量与缺失率的关系 多级的Cache结构与命中率的关系 为增加计算机系统中的cache容量，通常可以在已有的cache存储器之外，再增加一个容量更大的cache。此时原有cache为第一级（例如奔腾机微处理机芯片内

18、的cache），新增加的cache为第二级。第二级cache的容量比第一级cache的容量要大得多,在第一级cache中保存的信息也一定保存在第二级cache中，但保存有比第一级cache中更多的信息。当CPU访问第一级cache出现缺失情况时，就去访问第二级cache。若第一级、第二级cache的命中率为90%，则它们总的命中率为：-(1-90)(1-90)= 99。Cache替换算法随机替换（RAND）随机找一个Cache块进行替换，比较盲目。先进先出算法（FIFO）将最早调入Cache的字块替换出去，采用循环电路容易实现，开销小。最近最少使用算法（LRU）需要计算字块的使用次数，开销大，

19、但平均命中率比FIFO要高。改写主存储器的策略若 CPU 改写了 Cache 一单元内容（写命中）后且尚未改变主存相应单元内容，则出现数据不一致性。有两种解决办法：直接改写主存单元内容（Write Through）： 简便易行，数据一致性容易保证，但可能带来系统运行效率不高的问题，Cache对写操作没有提高性能。拖后改写主存单元内容（Write Back）： 一直拖到有另外的设备要读该内容过时的主存单元时，则首先停止这一读操作，接下来改写主存内容，之后再起动已停下来的读操作。控制虽然复杂些，但可以提供更高的系统运行效率。7.5 外部辅助存储设备概述主要技术指标存储密度：单位长度或单位面积上存储

20、的二进制信息数量。存储容量：一台设备能存储的总信息量，一般以字节为单位。寻址时间：直接存取方式访问（如磁盘） 顺序存取方式访问（如磁带）数据传输率：单位时间内传送数据的数量，单位bps或者Bps。误码率：出错信息位数与读出信息的总位数之比。价格：总价格和存储单位信息的平均价格。磁记录原理磁表面记录设备，是在磁头和磁性材料的记录介质之间有相对运动时，通过一次电磁转换完成一次读写操作。磁头：通常由软磁材料（外界磁场的作用消失后，该磁性材料的磁性容易消失）做成。磁记录介质：在刚性或柔性载体上涂有薄磁材料的物体，记录以磁状态表示的信息。一般选用硬磁材料（外界磁场的作用消失后，该磁性材料的磁性尽量多的保

21、留）。磁记录原理前间隙后间隙铁氧体线圈电流磁记录介质磁头结构和电磁转换示意图磁头，软磁材料导磁率高，饱和磁感应强度大矫顽力小，剩余磁感应强度小 磁记录材料，硬磁材料记录密度高，记录信息时间长输出信号幅度大，噪声低表面组织紧密、光滑、无麻点 薄厚均匀，温度、湿度影响小磁记录方式磁记录方式：是指一种编码方法，即如何将一串二进制信息，通过读写电路变换成磁层介质中的磁化翻转序列.编码方法要求：更高的编码效率：编码效率：指记录密度与最大磁化翻转密度之比，即为记录一位信息所用的最多磁化翻转次数的倒数；FM、PM编码效率50，MFM、NRZ、NRZ1编码效率100更高的自同步能力：自同步能力：指从读出的数据

22、信息中提取出同步时钟信号的难易程度，可以用最小磁化翻转间隔与最大翻转间隔的比值来衡量；NRZ、NRZ1没有自同步能力，PM、FM、MFM有自同步能力更高的读写可靠性：采用能检查错误，甚至自动纠正错误的措施磁盘设备组成与运行原理磁盘设备的组成磁盘驱动器：通常是一个完整独立的设备，包括作为磁记录介质使用的磁盘和驱动磁盘匀速旋转的动力与驱动部件，完成读写功能的磁头和驱动磁头沿磁盘径向方向运动和准确定位的部件，以及其它一些控制逻电路等部件。 磁记录介质：单独的、可以和磁盘驱动器分开保存的硬磁盘片、磁盘组、软磁盘片等。磁盘接口电路：是插在主机总线插槽中的一块电路卡，用于把磁盘驱动器与计算机主机连接为一体

23、系统，接收主机发给磁盘的操作命令，实现数据缓冲与格式变换，处理主机与磁盘之间的其它交互作用与时间上的同步等。 硬磁盘驱动器结构示意图磁头磁盘组主轴通风机取数臂定位驱动器速度传感器小车主电机传动皮带滤尘器密封罩磁盘结构与参数磁盘结构（典型数据与磁盘容量相关）磁道：每个盘片每面500 至 2000 磁道扇区：扇区是磁盘访问的最小单位，每个磁道32 至 128个扇区某些硬盘上每个磁道上的扇区数相同，位密度不同，读写信号控制复杂一些为增加容量，位密度恒定，外磁道比内磁道扇区数多一些，信息管理复杂一些柱面：位于同一半径的磁道集合读写磁盘数据的三个步骤所用时间寻道时间：将磁头移动到正确的磁道上所用时间旋转

24、延迟：等待磁盘上扇区旋转到磁头下所用时间传输时间：真正的数据读写时间（1个或多个扇区）磁盘结构与参数寻道时间：一般为 8 至12 ms旋转延迟：旋转速度：3600至7200 RPM旋转时间：16 ms至8 ms每转平均寻址时间8 ms至4 ms访问速度：数据量（通常为1个扇区）： 1 KB/扇区旋转速度：3600 RPM至7200 RPM存储密度：磁道上单位长度存储的位数磁盘直径：2.5至 5.25 in一般为：2 至15 MB每秒SectorTrackCylinderHeadPlatter磁盘访问时间举例磁盘访问时间 = 寻道时间 + 旋转延迟 + 传输时间 + 磁盘控制器延迟举例： 平均寻

25、道时间 = 12ms旋转速度 = 5400rpm磁盘控制器延迟： 2ms传输速度 = 5MBps扇区大小 = 512 bytes读取一页（8KB）需要多少时间？旋转延迟：平均旋转延迟应为磁盘旋转半周的时间。旋转1 周 = 1/5400 minutes= 11.1ms = 周： 5.6 ms读1个扇区时间 = 12ms + 5.6ms + 0.5KB/5MBps + 2ms = 12ms + 5.6ms + 0.1ms + 2ms = 19.7 ms读1页的时间= 12 ms + 5.6ms + 8KB/5MBps + 2ms = 12ms + 5.6ms + 1.6ms + 2ms = 21.

26、2 ms对例子的思考页容量大，为什么扇区却如此小呢？理由 #1： 可用性。 可以在扇区物理损坏时不再使用该扇区。理由 #2： 还是可用性。 检错纠错码分布在每个扇区，扇区容量小，检错速度快，效率高。理由 #3：灵活性。 使用不同的操作系统，不同的页面大小。采用并行方式和大容量传输方式克服磁盘控制器延迟大容量传输：每次读取多个扇区，可以节约时间，也可以分担部分总线延迟。并行方式：并行 #1：并行读多个层面并行 #2：并行读多个磁盘两点结论额外开销在总开销中比例较大 =一次传输大量数据比较有效将页面存放在相邻扇区中可以避免额外的寻道开销光盘设备组成与运行原理光盘特点存储密度高，容量大，非接触式读写

27、可靠性好，价格便宜，广泛使用光盘类型只读型光盘CD-ROM(CD-Read Only Memory)标准容量650M写一次型光盘 WORM(write once, read many) CD-R(CD-Recordable)可擦写型光盘CD-RWCD-RW(CD-ReWritable)光盘的读写原理利用激光束在记录表面上存取信息：根据激光束以及反射光的强弱不同，可以完成信息的读写形变：将激光束聚集成直径为小于1微米的光点，以其热作用，融化盘表面上的光存储介质薄膜，形成小洞（凹坑），有洞的位置表示记录了“1”，没有洞的位置表示“0”。读出时，在读出光束的照射下，有凹坑和无凹坑处反射的光强不同，从

28、而区别读出的是“1”还是“0”。主要用于只读型和写一次型光盘。相变：有些光存储介质在激光照射下，晶体结构会发生变化，利用介质处于晶态和非晶态区域的不同反射特性来记录和读取信息。主要应用于可擦写光盘。磁光存储：利用激光在磁性薄膜上产生热磁效应来记录信息。主要应用于可擦写光盘。写一次型光盘光学系统示意图光盘旋转台He-Ne激光器10%光束分离器90%调制器光束分离器调制信号聚焦系统，物镜径向跟踪反射镜写光束读出信号光敏管CD-RW存储原理用银、铟、锑和碲组成的合金做记录层。这种合金有两个稳定态：晶态和非晶态，两个状态有不同的反射特性。CD-RW的驱动器使用三种不同能量的激光。在高能激光照射下，合金

29、熔化并从高反射性的晶态转化为低反射性的非晶态，表示凹区。在能量中等的激光束照射下，合金熔化并重新转化为本来的晶态，又成为凸区。低能激光可以感知材料的状态（用来读盘），但不会导致状态转换。光盘设备组成与运行原理DVD简介DVD：数字多用途盘（Digital Versatile Disk）DVD的容量比普通光盘提高了7倍，达到4.7GB单速DVD驱动器的工作速度为1.4MB/秒（而CD为150KB/秒）DVD的4种标准单面单层（4.7GB）单面双层（8.5GB）双面单层（9.4GB）双面双层（17GB）光盘设备组成与运行原理DVD存储原理DVD的基本设计和CD相同，也是120mm直径的注入碳酸盐的

30、盘模，由激光二极管照射的凸区和凹区组成，通过光接收器读入信息。使用红色激光（DVD激光的波长为0.65微米，而CD的为0.78微米）；凹区更小（DVD为0.4微米，而CD为0.8微米）；螺旋线更紧凑（DVD道间距为0.74微米，而CD的道间距为1.6微米）。其他的新标准HVD、EVD、蓝光DVD7.6 虚拟存储器概述虚拟存储器是指用磁盘的一片存储空间来弥补主存空间的不足，使得程序人员能够使用比主存实际空间更大的存储空间来编写和运行程序。根据“程序运行的局部性原理”，只把一小段时间内用到的程序和数据装入主存；其他程序和数据在操作系统的支持下，在磁盘和主存之间按程序运行的需要自动成批地完成交换。虚

31、拟存储器经常使用两种基本管理技术，核心问题都在于处理数据的存放与调度。段式存储管理页式存储管理结合起来：段页式存储管理段式存储管理段是程序模块化设计的结果，即把程序中逻辑上相对独立的部分设计为不同的段，再经过连接程序连接成更大的程序。此时用段作为信息调入主存的单位是合适的，以段为单位分配与管理主存储器被称为段式存储管理。段式存储管理的核心问题在于设立和管理段表；段表也是主存中的可以再定位的一段信息，用于变换程序中的虚地址（逻辑地址）为主存单元的实地址（物理地址）。段式存储管理段表内容及其管理段号 段内地址+逻辑地址段始地址 段长 装入位段表主存实际地址段表基地址段式存储管理提高性能的方法使用段地