第1章-2-计算机设计基本原理-计算机系统结构

1、1 第第1章章 计算机设计基础计算机设计基础1.1 引言引言1.2 计算机的分类计算机的分类1.3 计算机系统结构定义和计算机的设计任务计算机系统结构定义和计算机的设计任务1.4 实现技术的趋势实现技术的趋势1.5 集成电路功耗的趋势集成电路功耗的趋势1.6 成本的趋势成本的趋势1.7 可靠性可靠性1.8 测量、报告和总结计算机性能测量、报告和总结计算机性能1.9 计算机设计的量化原则计算机设计的量化原则1.10 综合：性能和性价比综合：性能和性价比nTime-元器件价格随着时间而下降（实现技术没有实质元器件价格随着时间而下降（实现技术没有实质性改进）。因为随着时间推移性改进）。因为随着时间推

2、移产出率产出率不断增高。不断增高。nVolume （产量）（产量）-提高意味着制造效率提高提高意味着制造效率提高nCommodification（商品）（商品）-元器件供应商之间的竞争会降元器件供应商之间的竞争会降低成本低成本2芯片成本趋势$0$10$20$30$40$50$60$70$8019781979198019811982198319841985198619871988198919901991199219931994199516Kb64Kb256Kb1Mb4Mb16Mb3集成电路的生产过程集成电路的生产过程 4一片集成电路成本一片集成电路成本 = 每芯片成本每芯片成本 + 每个芯片测试

3、成本每个芯片测试成本 + 每个芯片封装成本每个芯片封装成本 一片封装好的一片封装好的集成电路成本的计算：集成电路成本的计算：每芯片成本每芯片成本 = 一片晶园成本一片晶园成本 每片晶园的芯片数每片晶园的芯片数 芯片成品率芯片成品率每片晶圆的芯片数每片晶圆的芯片数 = - 晶圆面积晶圆面积 芯片面积芯片面积 晶圆周长晶圆周长 芯片对角线长芯片对角线长芯片成品率芯片成品率 = 晶圆成品率晶圆成品率 （ 1 + ） 单位面积的缺陷数单位面积的缺陷数 芯片面积芯片面积 -5每片晶圆的芯片数每片晶圆的芯片数 = - 晶圆面积晶圆面积 芯片面积芯片面积结论结论1，芯片面积直接影响芯片成本芯片面积直接影响芯

4、片成本： 芯片面积大芯片面积大 晶圆上芯片数减少晶圆上芯片数减少 芯片成本上升芯片成本上升 晶圆周长晶圆周长 芯片对角线长芯片对角线长 是取决于制造工艺复杂性的一个参数，与掩膜的层数成正比。是取决于制造工艺复杂性的一个参数，与掩膜的层数成正比。对于目前复杂的对于目前复杂的CMOS工艺来说，估算值工艺来说，估算值 =4 。 单位面积缺陷数单位面积缺陷数是衡量材料与工艺的一个指标，典型值为是衡量材料与工艺的一个指标，典型值为 0.51/cm2芯片成品率芯片成品率 = 晶圆成品率晶圆成品率 （ 1 + ） 单位面积的缺陷数单位面积的缺陷数 芯片面积芯片面积 -假设为假设为100%67每片晶圆的芯片数

5、每片晶圆的芯片数 = - = 270 （30 /2）2 2.25 30 2.12类似的，直径类似的，直径30cm晶圆上边长为晶圆上边长为1 cm的芯片数为：的芯片数为： 6408芯片成品率芯片成品率 = （ 1 + ） 单位面积的缺陷数单位面积的缺陷数 芯片面积芯片面积 -答：1.5cm芯片成品率芯片成品率 =（ 1 + ） = 0.44 0.4 2.25 4.0-41.0cm芯片成品率芯片成品率 =（ 1 + ） = 0.68 0.4 1.00 4.0-4结论结论2：芯片面积大：芯片面积大成品率更低成品率更低 芯片成本上升芯片成本上升直径直径30cm晶圆晶圆有有270 0.44=120个面积

6、个面积2.25cm2成品芯片成品芯片， 或者或者有有640 0.68=435个面积个面积1cm2成品芯片。成品芯片。9下表表明了下表表明了2001年年$1000 PC 成本的近似分解成本的近似分解10成本与价格成本与价格n器件成本（器件成本（）n直接成本（直接成本（）：）：直接影响产品的成本.n人力成本, 废料 (the leftover from yield), 和保修期内的保修费等n直接成本在器件成本上增加20%40%.n毛利润（毛利润（间接成本）间接成本）n企业一般管理费直接分摊到一个产品中.n研发(R&D)，制造设备，市场销售 ，维护, 租场地, 经济成本, 税收等.n研发费用

7、一般占收入的4%12%1112131415 第第1章章 计算机设计基础计算机设计基础1.1 引言引言1.2 计算机的分类计算机的分类1.3 计算机系统结构定义和计算机的设计任务计算机系统结构定义和计算机的设计任务1.4 实现技术的趋势实现技术的趋势1.5 集成电路功耗的趋势集成电路功耗的趋势1.6 成本的趋势成本的趋势1.7 可靠性可靠性1.8 测量、报告和总结计算机性能测量、报告和总结计算机性能1.9 计算机设计的量化原则计算机设计的量化原则1.10 综合：性能和性价比综合：性能和性价比1617n模块可靠性：模块可靠性：从模块可用到出现故障的持续服务度量从模块可用到出现故障的持续服务度量nM

8、TTF（mean time to failure）: 平均故障时间平均故障时间nMTTR（mean time to repair）: 平均修复时间平均修复时间nFIT （故障率）：（故障率）：1/MTTFnMTBF: 平均无故障时间平均无故障时间= MTTF+MTTRn模块可用性模块可用性n MTTF = MTTF MTTF + MTTR MTBF系统故障率系统故障率 = 10 + + + +1解：解：1 000 0001500 00011 000 0001200 0001200 000= 231 000 000系统的系统的MTTF = = = 43 500小时（小时（接近接近5年年）1系统故

9、障率系统故障率1 000 000 2318n冗余（冗余（Redundancy）:n时间冗余时间冗余: 重复操作直到无错重复操作直到无错n资源冗余资源冗余: 配置另外的相同部件，有错时用于替代配置另外的相同部件，有错时用于替代出错部件出错部件1920 第第1章章 计算机设计基础计算机设计基础1.1 引言引言1.2 计算机的分类计算机的分类1.3 计算机系统结构定义和计算机的设计任务计算机系统结构定义和计算机的设计任务1.4 实现技术的趋势实现技术的趋势1.5 集成电路功耗的趋势集成电路功耗的趋势1.6 成本的趋势成本的趋势1.7 可靠性可靠性1.8 测量、报告和总结计算机性能测量、报告和总结计算

10、机性能1.9 计算机设计的量化原则计算机设计的量化原则1.10 综合：性能和性价比综合：性能和性价比2122n选择适当的程序评估性能选择适当的程序评估性能2324n测量测量CPU时间时间更具可计算性更具可计算性 (not waiting for I/O)n测量测量设计者感觉到的设计者感觉到的CPU速度速度nCPU时间进一步分为：时间进一步分为：n用户用户CPU时间时间- 花费在用户模式的时间花费在用户模式的时间n系统系统CPU时间时间- 花费在花费在OS的时间的时间nUnix时间命令报告时间命令报告CPU时间：时间：25性能指标性能指标-吞吐量吞吐量n单位时间内完成的工作总量单位时间内完成的工

11、作总量-吞吐量吞吐量n测量测量管理员感觉到的管理员感觉到的系统性能系统性能n常用吞吐量测量常用吞吐量测量n每天产生的代码行的数量每天产生的代码行的数量n每秒在一根导线上传输的二进制位的数量每秒在一根导线上传输的二进制位的数量n服务的网页数量服务的网页数量n以上对照以上对照时延时延n产生一行代码的产生一行代码的时间量时间量n一根导线传输一位的一根导线传输一位的时间量时间量n等待接受网页的等待接受网页的时间量时间量p处理器性能处理器性能一般使用一般使用相对时延相对时延：程序程序A比程序比程序B快快10倍倍p对于一些应用，吞吐量对于一些应用，吞吐量比时延更重要比时延更重要：金融市场金融市场, 政府统

12、计（人口普政府统计（人口普查）查）26n通常改善了通常改善了响应时间响应时间也会改善也会改善吞吐量吞吐量n处理器用更快的型号替换处理器用更快的型号替换n只改善只改善吞吐量吞吐量而不改善而不改善响应时间响应时间n在一个系统中增加额外的处理器，如用多处理器在一个系统中增加额外的处理器，如用多处理器27nMIPS - Millions of Instructions per Secondn对于具有对于具有相同相同指令集的指令集的两台机器两台机器 (A, B), 用用MIPS对它们进行比较一般是公平的对它们进行比较一般是公平的nMIPS可能是一个可能是一个“无意义的性能指标无意义的性能指标”28n机器

13、机器A有一条计算平方根的特殊指令，它执行需要有一条计算平方根的特殊指令，它执行需要100个时钟周期（设每个时钟周期个时钟周期（设每个时钟周期1us）n机器机器B 没有没有这种指令这种指令 -它计算平方根用软件方它计算平方根用软件方式即用加、乘、移位简单指令（一般执行需要式即用加、乘、移位简单指令（一般执行需要1个个时钟周期，设时钟周期时钟周期，设时钟周期1us）编程实现）编程实现n机器机器 A: 1/100us = 0.01 MIPSn机器机器 B: 1/1us = 1 MIPS29n嵌入式系统的关键因素：嵌入式系统的关键因素：n成本成本n物理尺寸物理尺寸n存储空间存储空间n功耗功耗n例如：例

14、如：nAMD ElanSC520 nAMD K6-2EnIBM PowerPC 750CXnNEC VR 5432nNEC VR 4122NEC VR 4122 的的性能性能/瓦瓦最好最好,但是它是其中但是它是其中效率效率倒数第倒数第2低的低的处理器。处理器。 30n响应响应 (执行执行) 时间时间 n用户的感觉用户的感觉n系统性能系统性能n仅有的各方都认可仅有的各方都认可的的性能测量指标性能测量指标nCPU 时间时间 n设计者的感觉设计者的感觉nCPU 性能性能n吞吐量吞吐量n管理员感觉管理员感觉nMIPSn商人的感觉商人的感觉31n理想的性能评估：理想的性能评估： n运行随机取样的用户的程

15、序和运行随机取样的用户的程序和OS命令命令n不同类型的基准测试程序（不同类型的基准测试程序（benchmarks）3232n 不同类型的基准测试程序（不同类型的基准测试程序（benchmarks）对一大套应用程序中的操作和操作数的执行频率进对一大套应用程序中的操作和操作数的执行频率进行统计，得到平均执行频率，再按这个频率编制的行统计，得到平均执行频率，再按这个频率编制的模拟测试程序。模拟测试程序。33n基准测试程序可能针对系统的某些方面基准测试程序可能针对系统的某些方面nfloating point & integer 运算运算, memory system, I/O, OS通用基准测

16、试程序可能会通用基准测试程序可能会误导误导消费者消费者，因为硬件和编译器的因为硬件和编译器的供应商或许会供应商或许会仅仅仅仅针对这些测试程序针对这些测试程序优化他们的设计。优化他们的设计。系统结构可能对某些应用性能好，而对其他应用性能差。系统结构可能对某些应用性能好，而对其他应用性能差。利用结构特点的利用结构特点的编译编译可以提高性能。可以提高性能。针对针对特定应用特定应用程序的程序的编编译器优化译器优化已普遍采用。已普遍采用。最好的基准测试程序就是实际应用程序，因为它们反应了终最好的基准测试程序就是实际应用程序，因为它们反应了终端用户的需要。端用户的需要。34n已成为已成为最成功最成功的性能

17、测试标准化组织，有的性能测试标准化组织，有40个公司成员。个公司成员。n目标：保证市场目标：保证市场有一套公平和实用有一套公平和实用的指标来区分不同的候选系统。的指标来区分不同的候选系统。n基本方法：提供基于基本方法：提供基于现有应用程序现有应用程序的一套标准化源代码作为基准测试程的一套标准化源代码作为基准测试程序集。序集。3536373839由由SPEC CPU2000构建实现多个构建实现多个CPU基准测试程序副本基准测试程序副本 n TPC benchmarkTransaction Processing Counciln TPC-A, 1985（工程师创建了独立于厂商的事务处理性能委员会工

18、程师创建了独立于厂商的事务处理性能委员会TPC，目前绝大多数会员都是美、日、西欧计算机软硬件的制造商。目前绝大多数会员都是美、日、西欧计算机软硬件的制造商。 ）n TPC-C, 1992,n TPC-H TPC-RTPC-W事务处理（事务处理（TP）：数据库访问与更新。）：数据库访问与更新。4041n关键：关键：可重现性可重现性（Reproducibility ）n尽量多的细节尽量多的细节 列出实验时所有的假定和条件列出实验时所有的假定和条件n如：如：program input, version of the program, version of the compiler, optimiza

19、tion level, OS version, main memory size, disk types, etc. n系统软件的配置会有效地影响系统软件的配置会有效地影响benchmark的的性能结果。性能结果。42执行指令条数执行指令条数 43 为什么要比较不同机器或者不同程序的性能？为什么要比较不同机器或者不同程序的性能？要帮助要帮助设计者设计者知道哪一个更好知道哪一个更好要给要给销售销售在新闻发布时一个有力的依据在新闻发布时一个有力的依据要帮助要帮助消费者消费者选择满足自己需求的机器选择满足自己需求的机器 性能与执行时间性能与执行时间互为倒数互为倒数 最大的最大的性能性能意味着意味着最

20、小的最小的执行时间执行时间44n“P1 性能比性能比P2 更好更好”：对给定工作负载程序：对给定工作负载程序 L， P1 执行执行L的的时间时间比比 P2 更少更少n“处理器处理器 X 比比Y快快n 倍倍” ：45n上述句子都是正确的，但是上述句子都是正确的，但是哪一个机器是最好的？哪一个机器是最好的？46nMachine A 比比 Machine B快多少快多少?n方法方法 1: 计算执行时间比，归结为计算执行时间比，归结为A的倍数的倍数47nMachine A 比比 Machine B快多少快多少?n方法方法 248nMachine A 比比 Machine B快多少快多少?n方法方法3:

21、 累加总的执行时间，计算执行时间比累加总的执行时间，计算执行时间比nMachine A 执行两个程序花费执行两个程序花费 14snMachine B 执行两个程序花费执行两个程序花费 12snMachine A 与与Machine B的执行时间比是的执行时间比是 14/12n这种方法，这种方法，Machine A平均执行时间比平均执行时间比 B快快 6/7 倍倍 实际上实际上Machine A比比B慢。慢。49n怎样得到不同的答案？怎样得到不同的答案？n原因原因n看起来都是合理的计算看起来都是合理的计算n但是，每个答案但是，每个答案的计算方法是不同的计算方法是不同n因此，要更精确地探讨这些性能

22、和度量问题因此，要更精确地探讨这些性能和度量问题50n总的执行时间：总的执行时间：一个一致的总的度量一个一致的总的度量51n每个应用程序运行的概率并不相同每个应用程序运行的概率并不相同n更长执行时间的程序在平均值中的份量更重更长执行时间的程序在平均值中的份量更重 Machine A Machine B Program 1 2 seconds (20%) 4 seconds (20%) Program 2 12 seconds (80%) 8 seconds (80%) （Program 2运行的概率是 Program 1的4倍）n计算算术平均值计算算术平均值， Program 2 占的比重占的

23、比重比比Program 1更大更大n显然，改善显然，改善Program 2对平均值的影响大于对平均值的影响大于Program 152n通常，机器运行某些程序更频繁，则应该给通常，机器运行某些程序更频繁，则应该给这些程序更大的这些程序更大的权值（权值（weight）n加权加权调和值调和值53但是，但是，加权和加权和存在一个重要问题：存在一个重要问题： SPEC 不同厂商对应用程序权重的选取有冲突不同厂商对应用程序权重的选取有冲突54SPEC采用比选择权值更好的方法，就是选择采用比选择权值更好的方法，就是选择一个一个统一的参考计算机统一的参考计算机，给出各测试程序在参考，给出各测试程序在参考机上的

24、执行时间，再将机上的执行时间，再将被测机器被测机器的执行时间与之的执行时间与之比较来评价不同机器的性能。比较来评价不同机器的性能。55ASPECRatioA参考计算机的执行时间机的执行时间 1.3ABSPECRatioASPECRatioAB参考计算机的执行时间B机的执行时间A机的性能机的执行时间参考计算机的执行时间机的执行时间机的性能B机的执行时间561nniiSMSPECRatio57表表1-4 Ultra 5、Itanium 2、Opteron的的SPECfp2000执行时间和执行时间和SPECRatio基准基准测试程序测试程序Ultra 5时间（秒）时间（秒）Opteron时间（秒）时

25、间（秒）OpteronSPECRatioItanium 2时间（秒）时间（秒）Itanium 2SPECRatioItanium / OpteronSPECRatiowupwisewupwise1600160051.551.531.0631.0656.156.128.5328.530.920.92swimswim31003100125.0125.024.7324.7370.770.743.8543.851.771.77mgridmgrid1800180098.098.018.3718.3765.865.827.3627.361.491.49appluapplu2100210094.094.02

26、2.3422.3450.950.941.2541.251.851.85mesamesa1400140064.664.621.6721.67108.0108.012.9912.990.600.60galgelgalgel2900290086.486.433.5733.5740.040.072.4772.472.162.16artart2600260092.492.428.1328.1321.021.0123.67123.674.404.40equakeequake1300130072.672.617.9217.9236.336.335.7835.782.002.00facerecfacerec1

27、900190073.673.625.8025.8086.986.921.8621.860.850.85ammpammp22002200136.0136.016.1416.14132.0132.016.6316.631.031.03lucaslucas2000200088.888.822.5222.52107.0107.018.7618.760.830.83fma3dfma3d21002100120.0120.017.4817.48131.0131.016.0916.090.920.92sixtracksixtrack11001100123.0123.08.958.9568.868.815.99

28、15.991.791.79apsiapsi26002600150.0150.017.3617.36231.0231.011.2711.270.650.65几何平均几何平均值值SMSM20.8620.8627.1227.121.301.3058 第第1章章 计算机设计基础计算机设计基础1.1 引言引言1.2 计算机的分类计算机的分类1.3 计算机系统结构定义和计算机的设计任务计算机系统结构定义和计算机的设计任务1.4 实现技术的趋势实现技术的趋势1.5 集成电路功耗的趋势集成电路功耗的趋势1.6 成本的趋势成本的趋势1.7 可靠性可靠性1.8 测量、报告和总结计算机性能测量、报告和总结计算机性能

29、1.9 计算机设计的量化原则计算机设计的量化原则1.10 综合：性能和性价比综合：性能和性价比59n利用并行性利用并行性n局部性原理局部性原理n注重经常性事件注重经常性事件定律定律性能公式性能公式60n改善计算机性能最重要的方法改善计算机性能最重要的方法n并行性的并行性的层次层次 n系统级系统级: 使用多个处理器使用多个处理器n指令级指令级:n流水线、超标量、流水线、超标量、OOO等等n操作级操作级: n并行加法器并行加法器n组相联组相联cachen功能部件流水线功能部件流水线Any other examples ?61n程序特性：程序特性：趋向于重用最近用过的数据和指令趋向于重用最近用过的数

30、据和指令n经验法则：经验法则：n一个程序一个程序90% 的执行时间仅仅执行的执行时间仅仅执行 其其10% 的的代码。代码。n时间局部性（时间局部性（Temporal locality） n最近访问过的项很可能近期将被访问。最近访问过的项很可能近期将被访问。n空间局部性（空间局部性（Spatial locality） 62n计算机设计最重要和普遍原则计算机设计最重要和普遍原则n功耗、资源分配、性能、可靠性功耗、资源分配、性能、可靠性n经验法则：经验法则：simple is fast.n简化常用事件，速度能够更快简化常用事件，速度能够更快n量化这个原则的基本定律：量化这个原则的基本定律：Amdah

31、ls Law63n采用采用更快的执行方式更快的执行方式后所获得的后所获得的系统性能提高系统性能提高，与，与这种这种执行方式执行方式的的使用频率使用频率或或占总执行时间的比例占总执行时间的比例有有关。关。nExample64增加时钟频率增加时钟频率不会影响存储器访问时间不会影响存储器访问时间使用浮点处理部件使用浮点处理部件不会加速整数不会加速整数ALU操作操作65=采用改进措施后计算机的性能加速比没有采用改进措施时计算机的性能=没有采用改进措施时某任务的执行时间采用改进措施后某任务的执行时间66可改进部分的执行时间改进前整个任务的执行时间可改进部分的执行时间改进前整个任务的执行时间可改进部分的执

32、行时间改进前整个任务的执行时间改进前改进部分的执行时间改进后改进部分的执行时间6701eneeFTTFS011nneeeTSTFF S11neSFeS 都可以提高都可以提高Sn 68 【】111.56(0.6)0.4/100.64nS 69 【】70111.23(1 0.5)0.5/1.60.8125FPSSFPSRQ11 S1.22(1 0.2)0.2/100.8271处理器性能的处理器性能的“铁律铁律”：n要直接测量使用要直接测量使用新改进措施的改进时间新改进措施的改进时间是困难是困难的。的。nCPU 性能公式性能公式72 CPU time = Instruction count CPI

33、Clock cycle timeOr rate ClockCPIcount nInstructiotime CPUcycleClock SecondsnInstructio cyclesClock ProgramnsInstructio timeCPUComponent of performanceUnits of measureCPU execution time for a programSeconds for the programInstruction countInstructions executed for the programClock cycles per instruct

34、ions (CPI)Average number of clock cycles/instructionClock cycle timeSeconds per clock cycle Architecture - Implementation - Realization Compiler Designer Processor Designer Chip Designer73性能取决于性能取决于3个特征个特征n一个困难：一个困难：只改变一个特征而不影响其他特征是困难的。如，只改变一个特征而不影响其他特征是困难的。如， 采用采用RISC结构，除了影响结构，除了影响IC，也会影响，也会影响CPI。

35、Inst Count CPIClock RateProgram XCompiler X (X)Inst. Set. X XOrganization X XTechnology X如：如：cache选择选择直接映像还是直接映像还是2-路组相联，其路组相联，其时钟周期时间是时钟周期时间是不同的。不同的。74niii=1=ICPUCPI的时钟周期数niii=1=ICPUCPI时间时钟周期niini=1iii=1(I)ICPICPICPIICICiCPIiIiCPIiI7576niii=1I(25% 4)(75% 1.33)2.0originalCPICPIIC2%()2.02%(202)1.64wi

36、thnewFPSRQoriginaloldFPSRQofnewFPSRQonlyCPICPICPICPIoriginalCPIoriginalCPIwithnewFPSRQCPI77(25%2.5)(75% 1.33)1.6225newFPCPI2.01.231.6225originalnewFPoriginalnewFPnewFPoriginalnewFPCPUICCPISCPUICCPICPICPI时间时钟周期时间时钟周期78 第第1章章 计算机设计基础计算机设计基础1.1 引言引言1.2 计算机的分类计算机的分类1.3 计算机系统结构定义和计算机的设计任务计算机系统结构定义和计算机的设计任务1.4 实现技术的趋势实现技术的趋势1.5 集成电路功耗的趋势集成电路功耗的趋势1.6 成本的趋势成本的