计系第六章-存储-

1、Shenzhen University1Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition存储器层次结构存储器层次结构Shenzhen University2Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition存储技术及其趋势存储技术及其趋势局部性局部性存储器层次结构中的高速缓存存储器层次结构中的高速缓存Shenzhen University3Bryant and OHallar

2、on, Computer Systems: A Programmers Perspective, Third Edition存储器存储器层次结构举例层次结构举例寄存器L1高速缓存(SRAM)主存(DRAM)本地二级存储(本地磁盘)更大, 更慢, 更廉价 (每字节)的存储器远程二级存储(分布式文件系统、Web服务器)本地磁盘保存着从远程本地磁盘保存着从远程网络服务器磁盘上取出网络服务器磁盘上取出的文件的文件L2 高速缓存 (SRAM)L1 高速缓存保存着从高速缓存保存着从 L2 高速缓高速缓存取出的缓存行存取出的缓存行.CPU 寄存器保存着从高速缓存存寄存器保存着从高速缓存存储器取出的字储器取出

3、的字L2 高速缓存保存着从高速缓存保存着从L3高速缓高速缓存取出的缓存行存取出的缓存行 L0:L1:L2:L3:L4:L5:更小,更快,更贵(每字节)的存储器L3 高速缓存 (SRAM)L3 高速缓存保存着从主存高速缓高速缓存保存着从主存高速缓存取出的缓存行存取出的缓存行L6:主存保存着从本地磁盘取主存保存着从本地磁盘取出的磁盘块出的磁盘块Shenzhen University4Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition随机访问存储器随机访问存储器 (RAM)关键特征关键特征R

4、AM 封装在芯片上.基本存储单位成为一个单元 (每个单元存储1 比特).RAM 的两种类型的两种类型:SRAM (静态RAM Static RAM)DRAM (动态RAM Dynamic RAM)需要不断刷新Shenzhen University5Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third EditionSRAM vs DRAM 总结总结芯片类型芯片类型 晶体管数晶体管数相对访问相对访问时间时间持续的持续的敏感的敏感的相对花相对花费费应用应用SRAM4 或 6个1X是否100X高速缓存存储器D

5、RAM1个10X否是1X主存，帧缓冲区Shenzhen University6Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition增强版增强版 DRAMs自自1966年年DRAM发明以来，其基本单元从未改变。发明以来，其基本单元从未改变。Intel公司于1970将其推向市场。 DRAM集成了更好的逻辑接口和更快的集成了更好的逻辑接口和更快的I/O传输接口传输接口 :同步DRAM (SDRAM)采用常见的时钟信号代替异步控制信号 允许复用行地址 (比如： RAS, CAS, CAS, CA

6、S)双倍数据速率同步DRAM (DDR SDRAM)每个周期每个引脚使用两个时钟沿传送两比特的控制信号通过使用提高有效带宽的预取缓冲区的大小来划分DDR SDRAM类型: DDR (2 bits), DDR2 (4 bits), DDR3 (8 bits)截止到2010, 多数服务器和桌面系统均支持该标准Intel Core i7 仅支持DDR3 SDRAMShenzhen University7Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition非易失性存储器非易失性存储器DRAM 和

7、和SRAM为易失性存储器为易失性存储器断电数据丢失非易失性存储器断电后，仍然保存数据非易失性存储器断电后，仍然保存数据只读存储器(ROM): 生产时写入程序，只能写一次Programmable ROM (PROM): 可以重新一次编程Eraseable PROM (EPROM): 可用紫外线或X光整块擦除Electrically eraseable PROM (EEPROM): 可用电子整块擦除Flash memory: EEPROMs. 以块为单位进行擦除10,0000次擦除后即磨损坏非易失性存储器的应用非易失性存储器的应用存储固件程序的ROM(BIOS, 磁盘控制器, 网卡, 图形加速器,

8、 安全子系统,)固态硬盘 (闪存盘, 智能手机, mp3 播放器, 平板电脑, 笔记本电脑,)磁盘高速缓冲存储器Shenzhen University8Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition典型的连接典型的连接CPU和主存的总线结构和主存的总线结构一条总线是由多条并排的电线组成的一束线，其传输地一条总线是由多条并排的电线组成的一束线，其传输地址、数据和控制信号址、数据和控制信号多个设备共享多条总线多个设备共享多条总线主存主存I/O 桥接口桥接口总线接口总线接口算术算术逻辑逻

9、辑单元单元寄存器文件寄存器文件CPU 芯片芯片系统总线系统总线存储器总线存储器总线Shenzhen University9Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盘驱动器里有什么磁盘驱动器里有什么?旋转轴旋转轴传动臂传动臂驱动器驱动器盘片盘片电子器件电子器件(包括处理器包括处理器和内存和内存!)SCSI接口接口图片由图片由Seagate Technology提供提供Shenzhen University10Bryant and OHallaron, Computer Sys

10、tems: A Programmers Perspective, Third Edition磁盘结构磁盘结构磁盘由双面的磁盘由双面的盘片盘片组成组成每张盘面上密集地排布着环形每张盘面上密集地排布着环形磁道磁道每条磁道上有多个每条磁道上有多个扇区扇区，每个扇区由，每个扇区由间隙间隙隔开隔开旋转轴旋转轴盘面盘面磁道磁道磁道磁道k扇区扇区间隙间隙Shenzhen University11Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盘结构磁盘结构 (多个盘片多个盘片) 对齐的磁道形成一

11、个柱面对齐的磁道形成一个柱面盘面盘面0盘面盘面1盘面盘面2盘面盘面3盘面盘面4盘面盘面5柱面柱面 k旋转轴旋转轴盘片盘片0盘片盘片1盘片盘片2Shenzhen University12Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盘容量磁盘容量容量容量: 可存储的最多比特数可存储的最多比特数.销售商以10进制度量存储大小，即1 GB = 109 Bytes. 容量由以下参数度量容量由以下参数度量:记录密度(位/英寸):磁道一英寸的段可放入的位数磁道密度 (道/英寸):从盘片中心出

12、发半径上一英寸的段内可以有的磁道数面密度 (位/平方英寸): 记录密度与磁道密度的乘积Shenzhen University13Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition 计算磁盘容量计算磁盘容量磁盘容量磁盘容量 = (字节数字节数/扇区扇区) x (平均扇区数平均扇区数/磁道磁道) x (磁道数磁道数/盘面盘面) x (盘面数盘面数/盘片盘片) x (盘片盘片/磁盘磁盘)Example:512 字节/扇区300 扇区/磁道 (平均值)20,000 磁道/盘面2 盘面/盘片5

13、盘片/磁盘容量容量 = 512 x 300 x 20000 x 2 x 5 = 30,720,000,000 = 30.72 GB Shenzhen University14Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盘操作磁盘操作 (单盘片视图单盘片视图)磁盘表面以固定磁盘表面以固定旋转速率旋转旋转速率旋转通过在半径方向上移动，传动通过在半径方向上移动，传动臂可以将读写头定位在任何磁臂可以将读写头定位在任何磁道上道上读写磁头连到传动臂的读写磁头连到传动臂的末端，在磁盘表面上一

14、层末端，在磁盘表面上一层薄薄的气垫上飞翔薄薄的气垫上飞翔spindlespindlespindlespindle转动轴转动轴Shenzhen University15Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盘操作（多盘片视图）磁盘操作（多盘片视图）传动臂传动臂多个读写磁头从一个多个读写磁头从一个柱面移动到另一个柱柱面移动到另一个柱面面旋转轴旋转轴Shenzhen University16Bryant and OHallaron, Computer Systems: A Pr

15、ogrammers Perspective, Third Edition磁道分成若干扇区磁道分成若干扇区磁盘结构磁盘结构单盘片俯视图单盘片俯视图盘面由多条磁道组成盘面由多条磁道组成Shenzhen University17Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盘访问磁盘访问磁头在磁道上磁头在磁道上Shenzhen University18Bryant and OHallaron, Computer Systems: A Programmers Perspective, T

16、hird Edition磁盘访问磁盘访问逆时针旋转逆时针旋转Shenzhen University19Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盘访问磁盘访问读操作读操作读取蓝色扇区读取蓝色扇区Shenzhen University20Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盘访问磁盘访问读操作读操作读完蓝色扇区后读完蓝色扇区后读完蓝色扇区后读完蓝色扇区后

17、Shenzhen University21Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盘访问磁盘访问读操作读操作读完蓝色扇区后读完蓝色扇区后请求读取红色扇区请求读取红色扇区Shenzhen University22Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盘访问磁盘访问读操作读操作蓝色读完后蓝色读完后寻找红色扇区寻找红色扇区寻找红色所在磁道寻找红色所在磁道Sh

18、enzhen University23Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盘访问磁盘访问旋转延迟旋转延迟读完蓝色扇区后读完蓝色扇区后寻找红色扇区寻找红色扇区旋转延迟旋转延迟旋转到红色扇区处旋转到红色扇区处Shenzhen University24Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盘访问磁盘访问读操作读操作蓝色扇区读完后蓝色扇区读完后寻找红色扇区

19、寻找红色扇区旋转延迟旋转延迟读完红色扇区后读完红色扇区后完成红色扇区读操作完成红色扇区读操作Shenzhen University25Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盘访问磁盘访问服务时间的组成服务时间的组成读完蓝色扇区后读完蓝色扇区后寻找红色扇区寻找红色扇区旋转延迟旋转延迟读完红色扇区后读完红色扇区后数据传输数据传输寻道寻道旋转延迟旋转延迟数据传输数据传输（读（读/写时间）写时间）Shenzhen University26Bryant and OHallaron,

20、 Computer Systems: A Programmers Perspective, Third Edition磁盘访问时间磁盘访问时间访问某个扇区的平均时间为访问某个扇区的平均时间为 :访问时间 = 寻道时间 + 旋转时间 + 数据传输时间 寻道时间寻道时间磁头由一个柱面移动到另一个柱面的时间通常寻道时间为： 39 ms旋转时间旋转时间经过磁盘旋转，目标扇区到达磁头下的时间最大旋转延迟 = 1/RPMs x 60 sec/1 min平均旋转延迟 = 0.5 x 最大旋转延迟 通常旋转时间 = 7200 RPMs数据传输时间数据传输时间传输每个扇区所需时间数据传输时间 = 1/RPM x

21、 1/(平均扇区数/磁道) x 60 秒/1 分钟.Shenzhen University27Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盘访问时间示例磁盘访问时间示例给定条件给定条件:旋转速度 = 7,200 RPM平均寻道时间 = 9 ms.平均扇区数/磁道 = 400.计算结果计算结果:平均旋转时间 = 1/2 x (60 secs/7200 RPM) x 1000 ms/sec = 4 ms.数据传输时间 = 60/7200 RPM x 1/400 secs/track

22、 x 1000 ms/sec = 0.02 ms服务总时间 = 9 ms + 4 ms + 0.02 ms = 13.02 ms重点重点:访问时间主要由寻道时间和旋转时间组成.访问扇区的第一个bit比较消耗时间，剩余bit较快.SRAM 访问时间为 4 ns/双字, DRAM 为 60 ns/双字磁盘比SRAM慢4,0000倍, 磁盘比 DRAM慢2500倍.Shenzhen University28Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition逻辑磁盘块逻辑磁盘块现代磁盘将复杂的

23、物理结构转换成简单的抽象视图现代磁盘将复杂的物理结构转换成简单的抽象视图:一组连续扇区被封装成一个b-sized大小的逻辑盘块 逻辑块与物理块之间的映射逻辑块与物理块之间的映射由磁盘控制器（硬件和固件组成）来维护将读写请求地址转换成三元组：(盘面,磁道,扇区) .允许控制器从每个区域中保留一部分空闲柱面允许控制器从每个区域中保留一部分空闲柱面区分“格式化容量”和“最大容量 Shenzhen University29Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third EditionI/O 总线总线主存主

24、存I/O 桥接器桥接器总线接口总线接口算术算术逻辑逻辑单元单元寄存器文件寄存器文件CPU 芯片芯片系统总线系统总线存储器总线存储器总线磁盘控制器磁盘控制器图形适配器图形适配器USB控制器控制器鼠标鼠标键盘键盘显示器显示器磁盘磁盘I/O 总线总线针对诸如网络适配器针对诸如网络适配器这样的其他设备的这样的其他设备的扩展插槽扩展插槽Shenzhen University30Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition读取一个磁盘扇区读取一个磁盘扇区 (1)主存主存算术算术逻辑逻辑单元单

25、元寄存器文件寄存器文件CPU 芯片芯片磁盘控制器磁盘控制器图形适配器图形适配器USB控制器控制器鼠标鼠标键盘键盘显示器显示器磁盘磁盘I/O 总线总线总线接口总线接口CPU通过将命令、逻辑块号和目的存储器地址写到与磁盘相关联的存储器映射地址，发起一个磁盘读请求操作Shenzhen University31Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition读取一个磁盘扇区读取一个磁盘扇区 (2)主存主存算术算术逻辑逻辑单元单元寄存器文件寄存器文件CPU 芯片芯片磁盘控制器磁盘控制器图形适配

26、器图形适配器USB控制器控制器鼠标鼠标键盘键盘显示器显示器磁盘磁盘I/O 总线总线总线接口总线接口磁盘控制器读取扇区，并执行到主存的DMA传送Shenzhen University32Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition读取一个磁盘扇区读取一个磁盘扇区 (3)主存主存算术算术逻辑逻辑单元单元寄存器文件寄存器文件CPU chip磁盘控制器磁盘控制器图形适配器图形适配器USB控制器控制器鼠标鼠标键盘键盘显示器显示器磁盘磁盘I/O总线总线总线接口总线接口当DMA传送完成时，磁盘

27、控制器用中断方式通知CPU (需要一个特殊引脚与CPU相连)Shenzhen University33Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition固态硬盘固态硬盘 (SSD)页大小页大小: 512B to 4KB, 块大小块大小: 32 to 128 pages数据以页单位读写。数据以页单位读写。只有在某页所属块整个被擦除后，才可写该页。只有在某页所属块整个被擦除后，才可写该页。在进行大约在进行大约10,0000次重复写后，块会磨损坏。次重复写后，块会磨损坏。闪存翻译层I/O 总

28、线页 0页 1页P-1块 0页0页1页P-1块 B-1闪存固态硬盘 (SSD)读写逻辑磁盘块Shenzhen University34Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition固态硬盘性能特点固态硬盘性能特点顺序访问比随机访问块顺序访问比随机访问块典型存储器层次结构问题随机写会较慢随机写会较慢擦除块需要较长时间 (1 ms)修改一页需要块内所有页复制到新块中早起固态硬盘读写时间差距更大顺序读速度顺序读速度550 MB/s 顺序写速度顺序写速度470 MB/s随机读速度随机读速度

29、365 MB/s 随机写速度随机写速度303 MB/s平均读时间平均读时间50 us 平均写时间平均写时间60 us来源来源: Intel SSD 730 产品参数产品参数Shenzhen University35Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition固态硬盘固态硬盘 vs 机械磁盘机械磁盘优势优势无移动部件 随机访问快, 低功耗, 更结实劣势劣势会磨损 在flash translation layer 闪存转换层用算法减少平均磨损率比如 Intel SSD 730 保证在

30、其磨损坏前可写入 128 petabyte (128 x 1015 bytes) 在2015年, 每byte比磁盘贵30倍应用应用MP3播放器, 智能手机, 笔记本电脑开始在台式机和服务器中应用Shenzhen University36Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition存储技术及其趋势存储技术及其趋势局部性局部性存储器层次结构中的高速缓存存储器层次结构中的高速缓存Shenzhen University37Bryant and OHallaron, Computer Sy

31、stems: A Programmers Perspective, Third Edition用局部性原理来解决用局部性原理来解决!解决解决CPU-存储速度差距问题的关键是利用程序中特有的存储速度差距问题的关键是利用程序中特有的局部性特点。局部性特点。Shenzhen University38Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition局部性局部性局部性原理局部性原理: 程序倾向于使用最近一段时间，距离其较程序倾向于使用最近一段时间，距离其较近地址的数据和指令。近地址的数据和指令

32、。时间局部性时间局部性: 最近被访问的数据或指令在未来可能还会被访问空间局部性空间局部性: 当前访问地址附近的区域在不久还有可能被访问Shenzhen University39Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition存储器层次结构存储器层次结构软硬件的基础稳定特性软硬件的基础稳定特性:高速存储器技术费用高，容量小，且耗电量大，易发热. CPU与主存的速度差别越来越大.设计良好的程序有更好的局部性.这些基础特性相互补充这些基础特性相互补充.以上特性给出一条组织主存和存储系统的途

33、径，称作以上特性给出一条组织主存和存储系统的途径，称作存存储器层次结构储器层次结构.Shenzhen University40Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition存储技术及其趋势存储技术及其趋势局部性局部性存储器层次结构中的高速缓存存储器层次结构中的高速缓存Shenzhen University41Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition存储器存储器层次

34、结构举例层次结构举例寄存器L1高速缓存(SRAM)主存(DRAM)本地二级存储(本地磁盘)更大, 更慢, 更廉价 (每字节)的存储器远程二级存储(分布式文件系统、Web服务器)本地磁盘保存着从远程本地磁盘保存着从远程网络服务器磁盘上取出网络服务器磁盘上取出的文件的文件L2 高速缓存 (SRAM)L1 高速缓存保存着从高速缓存保存着从 L2 高速缓高速缓存取出的缓存行存取出的缓存行.CPU 寄存器保存着从高速缓存存寄存器保存着从高速缓存存储器取出的字储器取出的字L2 高速缓存保存着从高速缓存保存着从L3高速缓高速缓存取出的缓存行存取出的缓存行 L0:L1:L2:L3:L4:L5:更小,更快,更贵

35、(每字节)的存储器L3 高速缓存 (SRAM)L3 高速缓存保存着从主存高速缓高速缓存保存着从主存高速缓存取出的缓存行存取出的缓存行L6:主存保存着从本地磁盘取主存保存着从本地磁盘取出的磁盘块出的磁盘块Shenzhen University42Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third EditionCachesCache: 一种更小，速度更快的存储设备。作为更大、更慢一种更小，速度更快的存储设备。作为更大、更慢存储设备的缓冲区存储设备的缓冲区. 解决解决CPU与主存之间速度匹配的问题与主存之

36、间速度匹配的问题存储器层次结构的基本思想存储器层次结构的基本思想:对于每个k，位于k层的更快更小的存储设备作为位于k+1等的更大更慢的存储设备的缓存为什么存储器层次结构行得通为什么存储器层次结构行得通?由于局部性原理，程序访问第k层的数据比第k+1层的数据要频繁 因此，第k+1层存储设备更慢且更大、更廉价.重要观点重要观点: 存储器层次结构构建了一个大容量的存储池，像存储器层次结构构建了一个大容量的存储池，像底层存储器一样低廉，而又可以达到顶层存储器的速度。底层存储器一样低廉，而又可以达到顶层存储器的速度。Shenzhen University43Bryant and OHallaron, C

37、omputer Systems: A Programmers Perspective, Third Edition高速缓存基本概念高速缓存基本概念012345678910111213141589143高速缓存高速缓存主存主存第第k+1层更大、更慢、更便宜的层更大、更慢、更便宜的设备被划分成块设备被划分成块数据以块大小为传输单元数据以块大小为传输单元在层与层之间拷贝在层与层之间拷贝第第k层更小、更快、更昂贵的设备缓存层更小、更快、更昂贵的设备缓存着第着第k+1层块的一个子集层块的一个子集444101010Shenzhen University44Bryant and OHallaron, Com

38、puter Systems: A Programmers Perspective, Third Edition基本高速缓存概念基本高速缓存概念: 命中命中012345678910111213141589143高速缓存高速缓存主存主存需要块需要块b中的数据中的数据请求请求: 1414块块b在高速缓存中在高速缓存中:命中命中!Shenzhen University45Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition基本高速缓存概念基本高速缓存概念: 不命中不命中0123456789101

39、11213141589143高速缓存高速缓存主存主存需要块需要块b中的数据中的数据请求请求: 12块块b不在高速缓存中不在高速缓存中:不命中不命中!块块b从主存中读取从主存中读取请求请求: 12121212块块b存储在高速缓存中存储在高速缓存中替换策略:决定块b去向替换策略:决定哪一块被换出Shenzhen University46Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition存储器结构层次中高速缓存应用举例存储器结构层次中高速缓存应用举例Hardware MMU0On-Chip

40、TLBAddress translationsTLBWeb browser10,000,000Local diskWeb pagesBrowser cacheWeb cacheNetwork buffer cacheBuffer cache虚拟内存虚拟内存L2 cacheL1 cache寄存器寄存器Cache 类型类型Web pagesParts of filesParts of files4-KB pages64-byte blocks64-byte blocks4-8 bytes wordscache中存储内容中存储内容Web 代理服务代理服务器器1,000,000,000Remote server disksOS100Main memoryHard