清华大学《计算机系统结构》课件-基本概念

清华大学计算机系科学与技术系

计算机系统结构基本概念郑纬民清华大学计算机系计算机系统结构课程介绍ComputerArchitecture“建筑学”、“建筑物的设计或式样”，通常是指一个系统的外貌。计算机系统结构计算机体系结构研究内容从外部来研究计算机系统使用者所看到的物理计算机的抽象

编写出能够在机器上正确运行的程序所必须了解到的计算机的属性。软硬件功能分配及分界面的确定学习目的建立计算机系统的完整概念学习计算机系统的分析方法和设计方法掌握新型计算机系统的基本结构及其工作原理学科方向一级学科：计算机科学与技术二级学科：计算机系统结构计算机软件计算机应用技术与其他课程的交叉主要包括：计算机组成原理、计算机操作系统、汇编语言、数据结构、微机原理、高级语言等新内容：超标量处理机、超流水线处理机、向量处理机、并行处理机、多处理机等交叉点内容：提高，建立完整概念计算机系统结构正处于变革时期软件、系统结构、组成技术，两头发展快、中间慢非冯计算机正兴起系统结构的发展时期已经到来课程安排课内：48学时；课外：课内外比例1:2；

除完成作业外，还要多看参考书教材计算机系统结构，清华大学出版社主要参考书1．PattersonDA,HennessyJL,ComputerArchitecture:AQuantitativeApproach,5th.,SanFrancisco:MorganKaufmannPublishers,2012.2．李学干,苏东庄,计算机系统结构,西安电子科技大学出版社,1991年。3．KaiHwang，高等计算机系统结构并行性可扩展性可编程性，清华大学出版社第一章基本概念1.1计算机系统结构的定义1.2计算机系统的评价标准1.3计算机系统的设计方法1.4计算机系统结构的发展1.5计算机系统的分类1.1计算机系统结构的定义1.1.1两种定义1.定义一Amdahl于1964年在推出IBM360系列计算机时提出：程序员所看到的计算机系统的属性，即概念性结构和功能特性程序员：汇编语言、机器语言、编译程序、操作系统看到的：编写出能够在机器上正确运行的程序所必须了解到的东西主存储器主存控制器CPUIOP打印机卡片机终端IOP磁盘机……磁带机概念结构功能特性：指令系统及其执行模式数据表示：硬件能够直接认别和处理的数据类型和格式；寻址方式：最小寻址单位、寻址方式的种类和地址运算等；寄存器组织：操作数寄存器、变址寄存器、控制寄存器及专用寄存器的定义、数量和使用规则等；指令系统：机器指令的操作类型、格式，指令间的排序和控制机制等；中断系统：中断类型、中断级别和中断响应方式等；存储系统：最小编址单位、编址方式、主存容量、最大寻址空间等；处理机工作状态：定义和切换方式，如管态和目态等；输入输出系统：连接方式、数据交换方式、数据交换过程的控制等；信息保护：包括信息保护方式和硬件对信息保护的支持等。2.透明性概念本来存在的事物或属性，从某种角度看似乎不存在例如：浮点数表示、乘法指令

对高级语言程序员、应用程序员透明

对汇编语言程序员、机器语言程序员不透明例如：数据总线宽度、微程序

对汇编语言程序员、机器语言程序员透明

对硬件设计者、计算机维修人员不透明3.定义二：计算机系统结构主要研究软硬件功能分配和对软硬件界面的确定计算机系统由软件、硬件和固器组成，它们在功能上是同等的。同一种功能可以用硬件实现，也可以用软件或固件实现。不同的组成只是性能和价格不同。1.1.2计算机组成计算机组成是指计算机系统结构的逻辑实现，主要包括：确定数据通路的宽度确定各种操作对功能部件的共享程度确定专用的功能部件确定功能部件的并行度设计缓冲和排队策略设计控制机构确定采用何种可靠性技术1.1.3计算机系统的实现计算机实现是指计算机组成的物理实现，包括：处理机、主存储器等部件的物理结构器件的集成度和速度专用器件的设计器件、模块、插件、底版的划分与连接信号传输技术电源、冷却及装配技术，相关制造工艺及技术等计算机系统结构、计算机组成和计算机实现是三个不同的概念，但随着技术、器件和应用的发展，三者之间的界限越来越模糊。1.1.4计算机系统的层次结构1.虚拟机概念从不同角度所看到的计算机系统的属性是不同的，包括：高级语言程序员、汇编语言程序员、系统管理员、硬件设计者大部分人对计算机的认识只需要在某一个层次上广义语言解释或编译虚拟计算机观察者作用对象2.层次结构(接下页)中央处理机第2级机器语言机器语言程序员指令系统目标程序硬联逻辑第0级硬联逻辑硬件设计员操作时序逻辑电路微程序控制第1级微程序控制逻辑设计员指令时序寄存器逻辑(接下页)汇编程序第4级汇编程序汇编语言程序员汇编语言可执行程序操作系统第3级操作系统系统操作员系统原语键盘命令系统资源(续上页)应用程序第6级应用程序用户应用语言信息处理系统高级语言第5级高级语言高级语言程序员解释程序编译程序可执行程序(续上页)2.层次结构第0级由硬件实现第1级由微程序实现第2级至第6级由软件实现由软件实现的机器称为：虚拟机第2级是传统指令系统（机器语言）机器第3级是操作系统机器

操作系统是运行在第２级上的解释程序第4级是汇编语言机器第5级是高级语言机器第6级是应用语言机器从学科领域来划分第0和第1级属于计算机组成与系统结构第3至第5级是系统软件第6级是应用软件它们之间仍有交叉第0级要求一定的数字逻辑基础第2级涉及汇编语言程序设计的内容第3级与计算机系统结构密切相关。

在特殊的计算机系统中，有些级别可能不存在。第一章基本概念1.1计算机系统结构的定义1.2计算机系统的评价标准1.3计算机系统的设计方法1.4计算机系统结构的发展1.5计算机系统的分类1.2计算机系统的评价标准：性能和价格1.2.1性能评测的常用方法：运算速度1.时钟频率（主频）：用于同类处理机之间如：PentiumⅡ/450比PentiumⅡ/300快50％，…2.指令执行速度一种很经典的表示方法MIPS(MillionInstructionsPerSecond),KIPS,GIPS,TIPS其中，Fz为处理机的工作主频；CPI(CyclesPerInstruction)为每条指令所需的平均时钟周期数；IPC(InstructionPerCycle)为每个时钟周期平均执行的指令条数例1：计算PentiumII450处理机的运算速度。解：由于PentiumII450处理机的IPC＝2(或CPI＝0.5),Fz＝450MHz，因此，MIPSPentiumII450＝Fz×IPC＝450×2＝900(MIPS)主要缺点：（1）不同指令的速度差别很大（2）指令使用频度差别很大（3）有相当多的非功能性指令3.等效指令速度：吉普森（Gibson）法其中，

Wi：指令使用频度，i：指令种类

静态指令使用频度：在程序中直接统计

动态指令使用频度：在程序执行过程中统计在计算机发展的早期，用加法指令的运算速度来衡量 计算机的速度。通常：加、减法50％，乘法15％， 除法5％，程序控制15％，其他15％例2：我国最早研制的小型计算机DJS-130，定点16位，加法每秒50万次，但没有硬件乘法和除法指令,用软件实现乘法和除法，速度低100倍左右。求等效速度。解：定点等效速度为：即每秒2万次，由于乘法和除法用软件实现，等效速度降低了25倍。例3：假设在程序中浮点开平方操作FPSQR的比例为2％，它的CPI为100；其他浮点操作FP的比例为23％，它的CPI＝4.0；其余75％指令的CPI＝1.33，计算该处理机的等效CPI。如果FPSQR操作的CPI也为4.0，重新计算等效CPI。解：由于改进了仅占2％的FPSQR操作的CPI，使等效速度提高了近一倍。等效CPI1 ＝ 100

2％＋4

23％＋

1.33

75％

＝ 3.92等效CPI2 ＝ 4

25％＋1.33

75％

＝ 2.00指令执行速度的几种平均方法上述2中的指令执行速度又称为算术平均速度上述3中的等效指令执行速度又称为加权平均速度，或调和平均速度几何平均速度：其中，ETR(executiontimeratio)，n指不同的程序几何平均速度与机器无关，与程序的执行时间无关。4.核心程序法把应用程序中用得最频繁的那部分核心程序作为评价计算机性能的标准程序。称为基准程序(benchmark)整数测试程序：Dhrystone用C语言编写，100条语句。包括：各种赋值语句，各种数据类型和数据区，各种控制语句，过程调用和参数传送，整数运算和逻辑操作。VAX-11/780的测试结果为每秒1757个

Dhrystones，即：1VAXMIPS＝1757Dhrystones/Second浮点测试程序：Linpack用FORTRAN语言编写，主要是浮点加法和浮点乘法操作。用MFLOPS（MillionFloatingPointOperationsPerSecond）表示；GFLOPS、TFLOPSWhetstone基准测试程序用FORTRAN语言编写的综合性测试程序，主要包括：浮点运算、整数算术运算、功能调用、数组变址、条件转移、超越函数。测试结果用Kwips表示。SPEC基准测试程序(SystemperformanceevaluationCooperative)由30个左右世界知名计算机大厂商所支持的非盈利的合作组织，包括：IBM、AT&T、BULL、Compaq、CDC、DG、DEC、Fujitsu、HP、Intel、MIPS、Motolola、SGI、SUN、Unisys等；SPEC能够全面反映机器的性能，具有很高的参考价值；以AX-11/780的测试结果作为基数；SPEC1.01989年10月宣布，程序量超过15万行，包含10个测试程序，4个定点程序，6个浮点程序；测试结果用SPECint’89和SPECfp’89表示。1992年，又增加10个测试程序，共有6个定点程序和14个浮点程序，测试结果用SPECint’92和SPECfp’92表示。1995年，推出SPECint’95和SPECfp’95处理机 SPECint’95 SPECfp’95PentiumII400 18.5 13.3PentiumII450 18.7 13.7PentiumIII500 20.6 14.7PientiumIII550 22.3 15.6Celeron300A 12.0 9.66Celeron333 13.1 10.20Celeron366 14.1 10.70Celeron400 15.1 11.20Celeron433 16.1 11.60Celeron466 17.0 12.00TPC基准程序TransactionProcessingCouncil（事务处理委员会）成立于1988年，已有40多个成员；用于评测计算机的事务处理、数据库处理、企业管理与决策支持等方面的性能。1989年10月、1990年8月和1992年7月发表了TPC-A、TPC-B和TPC-C。5、峰值速度峰值指令速度MIPS、GIPS、TIPSPentiumIII500有3条指令流水线，则其峰值指令速度为：3×500MHz＝1500(MIPS)即每秒15亿次例3：一个由8台机器组成的Cluster系统，每台机器是4个PentiumIII500组成的SMP系统；计算这个Cluster系统的指令峰值速度。解：峰值指令速度：

500MHz８４３＝48(GIPS)

即每秒480亿次。

峰值指令速度MIPS、GIPS、TIPS

1.2.2其他方面的性能1.存储能力寻址空间大小，216、224、232、264、…存储容量，速度，编址单位，编址方式，寻址方式存储系统：Lookahead

Cache

MainMemory

OnlineStorage

Off-lineStorage2.字长1～几百位关键问题：程序与数据共用同一个主存储器早期：由指令字长决定当前：由数据字长决定，8的倍数，如：32位、64位等可变字长：任意组合3.数据类型目前常用：定点、浮点、逻辑已有类型：向量、串、栈、树发展方向：自定义4.指令系统CISC：复杂指令集计算机RISC：精简指令集计算机VLIW：超长指令字5.输入输出能力输入输出方式中断系统输入输出接口6.兼容性共分12级：0～11，0级为完全不兼容，11级为自身7.保护和诊断能力程序与数据的保护诊断能力：检错、纠错、冗余、自诊断能力可靠性：RAS技术，可靠性R、可用性A、可维护性1.2.2其他方面的性能1.价格与性能的关系根据摩尔定理：

性能每10年提高100倍，但价格基本不变用同样的价格，五年之后能买到性能高十倍的机器2.硬件与软件的价格比例硬件的比例下降，软件的比例上升目前软件价格已经超过硬件价格第一章基本概念1.1计算机系统结构的定义1.2计算机系统的评价标准1.3计算机系统的设计方法1.4计算机系统结构的发展1.5计算机系统的分类1.3计算机系统的设计技术软硬件取舍，软件兼容性设计方法，计算机系统设计过程1.3.1软硬件取舍1.软硬件的关系理论上，有两种极端实现方法

全硬件机器，包括操作系统、高级语言、应用程序等

硬件只有1位加法和分支操作，其他都用软件实现关键问题：性能与价格的关系，软硬件实现在功能上等效

计算机系统结构设计者的主要任务就是要确定软硬件的分界；软件、硬件和固件的功能分配软件与硬件实现的特点

硬件实现：速度快、成本高；灵活性差、占用内存少

软件实现：速度低、复制费用低；灵活性好、占用内存多发展趋势

硬件实现的比例越来越高，硬件所占的成本越来越高发展不可编程目前计算机最少硬件软件硬件软硬件比例七十年代硬件软件成本年代2.从价格因素考虑的软硬件取舍设：

硬件设计费为Dh 软件设计费为Ds

硬件拷贝费为Ch 软件拷贝费为Cs

R为软件重复出现次数（占用内存、占用介质）

当台数为V时，每台的硬件费用和软件费用之比为：由于：Dh>>Ds，Ch>>Cs，有结论1：当R很大时，即经常使用的基本功能适宜用硬件实现由于：Ds>>Cs，有结论2：当V很大时，即生产台数很多时适宜用硬件实现另外，还要从处理机速度和国家需要等方面来考虑。

3.从改进性能考虑的软硬件取舍基本方法：加快经常性事件的执行速度Amdahl定律：系统中某一部件由于采用更快的执行方式，整个系统性能的提高与这种执行方式的使用频率或占总执行时间的比例有关

在Amdahl定律中，加速比与两个因素有关：Amdahl定律改进后整个任务的执行时间为：其中：Ｔ0为改进前的整个任务的执行时间。改进后整个系统的加速比达到：其中：Fe表示可改进部分所占的百分比，

1-Fe表示不可改进部分所占的百分比，

Se表示改进后，可改进部分的加速比。1-FeFe1-FeFe/Se例5：假设将某一部件的处理速度加快到10倍，该部件的原处理时间仅为整个运行时间的40%，则采用加快措施后能使整个系统的性能提高多少？解：由题意可知：Fe=0.4,Se=10，根据Amdahl定律，加速比为：1.3.2软件兼容性设计方法原因：软件相对于硬件的成本越来越贵，已积累了大量成熟的系统软件和应用软件。兼容种类

向后兼容在某一时间生产的机器上运行的目标软件能够直接运行于更晚生产的机器上。

向前兼容

向上兼容在低档机器上运行的目标软件能够直接运行于高档机器上。向下兼容其中向后兼容最重要，必须做到向上兼容尽量做到向前兼容和向下兼容，可以不考虑方法1：系列机方法系列机定义：具有相同的系统结构，不同组成和实现的一系列计算机系统实现方法：在系统结构基本不变的基础上，根据不同性能的要求和当时的器件发展情况，设计出各种性能、价格不同的计算机系统。一种系统结构可以有多种组成，一种组成可以有多种物理实现。如IBM370系列机：

370/115、125、135、145、158、168等各种型号。

相同的系统结构，不同的组成和实现技术，不同的性能和价格。

相同的指令系统，分别采用顺序执行、重迭、流水和并行处理方式。

相同的32位字长，数据通道的宽度分别为8位、16位、32位、64位。PC系列机：

8088、8086、80186、80286、80386、80484、Pentium、PentiumII、PentiumIII

不同工作主频；

不同扩展功能：Pentium、PentiumPro、PentiumMMX

不同的Cache：PentiumII、Celeron、Xeon

不同的字长：8位（8088）、16位（80286）、32位、64位。采用系列机方法的主要优点：

系列机之间软件兼容，可移植性好；插件、接口等相互兼容；便于实现机间通信；便于维修、培训；有利于提高产量、降低成本采用系列机方法的主要缺点：

限制了计算机系统结构的发展方法2：模拟与仿真SimulationEmulation定义：

在一台现有的计算机上实现另一台计算机的指令系统。全部用软件实现的叫模拟

用硬件、固件或软件、硬件、固件混合实现的叫仿真模拟的实现方法：

在A计算机上通过解释方法实现B计算机的指令系统，即B机器的每一第指令用一段A机器的程序进行解释执行。A机器称为宿主机，B机器称为虚拟机。仿真的实现方法：

直接用A机器的一段微程序解释执行B机器的每条指令。

A机器称为宿主机，B机称为目标机。优缺点比较

模拟方法速度低，仿真方法速度高

仿真需要较多的硬件（包括控制存储器）

系统结构差别大的机器难于完全用仿真方法来实现

除了指令系统之外，还有存储系统、I/O系统、中断系统、控制台的操作等

除了解释方法之外，也可以通过编译方法实现模拟方法用于计算机系统的设计过程

在一台已有的机器上用模拟方法实现另外一台正在设计中的机器的指令系统等。具体过程如下：方法3：统一高级语言方法：采用同一种不依赖于任何具体机器的高级语言编写系统软件和应用软件困难：至今还没有这样一种高级语言。短期内很难实现。

C、Ada、Java、……设计方案模拟测试、性能评价修改设计投产三种方法比较：

采用统一高级语言最好，是努力的目标

系列机是暂时性方法，也是目前最好的方法

仿真的速度低，芯片设计的负担重，目前用于同一系列机内的兼容

1/10～1/2的芯片面积用于仿真目标代码的兼容性研究：一种新的设想

一种机器的目标代码到另一种机器的目标代码的编译

目标代码的并行重编译1.3.3计算机系统设计过程方法1：由上向下（Top-Down）方法2：由下向上（Bottom-Up)方法3：中间开始（Middle-Out)应用虚拟机高级语言虚拟机汇编语言虚拟机操作系统虚拟机传统机器级微程序级硬联逻辑级向上向下第一章基本概念1.1计算机系统结构的定义1.2计算机系统的评价标准1.3计算机系统的设计方法1.4计算机系统结构的发展1.5计算机系统的分类1.4计算机系统结构的发展1.4.1冯·诺依曼(VanNenmann)结构基本思想于1936年～1946年期间形成由冯·诺依曼等人于1946年提出1.特点：存储程序运算器为中心集中控制存储器是字长固定的、顺序线性编址的一维结构。存储器提供可按地址访问的一级地址空间，每个地址是唯一定义的。由指令形式的低级机器语言驱动。指令顺序执行，即一般按照指令在存储器中存放的顺序执行，程序分支由转移指令实现。运算器为中心，输入输出设备与存储器之间的数据传送都途经运算器。运算器、存储器、输入输出设备的操作以及它们之间的联系都由控制器集中控制。2.改进：存储程序，存储器为中心，分散控制从基于串行算法变为适应并行算法，出现了向量计算机，并行计算机、多处理机等。控制器运算器ALU存储器输入设备输出设备高级语言与机器语言的语义距离缩小，出现了面向高级语言机器和直接执行高级语言机器。硬件子系统与操作系统和数据库管理系统软件相适应，出现了面向操作系统机器和数据库计算机等。从传统的指令驱动型改变为数据驱动型和需求驱动型，出现了数据流机器和归约机。为适应特定应用环境而出现了各种专用计算机，如快速傅里叶变换机器、过程控制计算机等。为获得高可靠性而研制容错计算机。功能分散化、专业化，出现了各种功能分布计算机，包括外围处理机、通信处理机等。出现了与大规模、超大规模集成电路相适应的计算机系统结构。出现了处理非数值化信息的智能计算机，例如自然语言、声音、图形和图象处理等。3.非冯计算机的发展1.4.2器件发展对系统结构的影响第1～4代计算机以器件来划分在相当长一段时间内，是提高计算机速度的主要途径1.器件发展的特点：用4句话概括：集成度迅速提高，速度已接近极限，价格直线下降，可靠性越来越高集成度迅速提高速度已接近极限

2.器件种类通用片：大批量生产，CPU、存储器、

寄存器、逻辑门、…现场片：PLD、PAL、PROM、EPROM、FPGA。…用户片：各种专用芯片半用户片：

门阵列片等3.器件发展对组成技术的影响器件速度与处理机工作主频

1955年第一台大型计算机IBM704机

处理机主频：12us，门延迟：0.5us 1976年巨型向量计算机CRAY，采用ECL电路

处理机主频：12.5ns，门延迟：0.5ns

PentiumIII600MHz，Alpha1000MHz

处理机主频：1.2ns，门延迟<0.1ns器件速度与指令执行时间

40多年来，器件速度提高小于104；指令执行加快108系统结构和组成技术的作用

器件速度的提高最慢，已经没有太大潜力 处理机主频提高的速度已经减缓

指令执行速度的提高基本保持不变4.器件发展对设计方法的影响计算机组成技术下移

原来只有在巨型机、大型机中采用的技术，已经用到微型机中

先行(Lookahead)、超标量、超流水线、Cache、多体交叉计算机设计方法下移

第1代计算机，几乎全部由硬件人员设计 第2、3、4代，由应用、软件、硬件和器件人员共同设计

将来：除器件设计之外，主要是软件设计逻辑设计方法改变

过去逻辑设计很重要，尽量节省每一个芯片，每一个门

目前的设计主要考虑：了解市场，尽量选择通用芯片、标准芯片；结构化设计，规整、易读、易诊断1.4.3应用对系统结构发展的影响1.应用需求今后10年，需要专门为以下领域设计高效率的系统结构：

高结构化的数值计算：气象模型、流体流动、有限元分析。

非结构化的数值计算：蒙特卡洛模拟、稀疏矩阵。

实时多因素问题：语音识别、图象处理、计算机视觉。

大存储器容量和输入输出密集的问题： 数据库系统、事务处理系统。

图形学和设计系统：计算机辅助设计。

人工智能：面向知识的系统、推理系统。

2.三个时期通用计算机：主要是通用科学计算专用计算机：科学计算、事务处理、实时控制高性能通用机：满足多种需求

3.两个发展趋势维持价格不变，利用VLSI技术等，提高性能

普通PC微处理器芯片2000元，但性能提高很快性能基本不变，价格迅速下降一般先推出中间机型，然后分别向高端和低端两个方向发展；例如：PentiumII，80486等4.三种设计思想最高性能价格比：商用机。主要发展方向最高性能：国家安全需要，科技发展需要

最低价格：家用学习机等1.4.4算法对系统结构的影响在多个层次上，算法影响着系统结构快速乘法、除法、开平方等的实现Tomasulo算法提高指令级并行性多线程系统消除名字相关、数据相关、控制相关的算法有些应用问题，如果算法上有突破，不需要高性能的系统结构，而在普通的系统上就能得到解决。许多算法还有改进的余地，通过算法的研究能够大大提高系统的性能。应用程序设计者只有了解系统结构，才能设计出高效率的程序。系统结构设计者应该研究一类算法，设计一种系统结构，使所有这类问题在此结构上都能很好解决。第一章基本概念1.1计算机系统结构的定义1.2计算机系统的评价标准1.3计算机系统的设计方法1.4计算机系统结构的发展1.5计算机系统的分类1.5计算机系统的分类1.5.1常见分类方法1.按大小划分种类：巨型机、大型机、中型机、小型机、微型机等。划分原则：以性能为表征，按价格来划分存在问题：划分的标准是随时间而变化2.按用途划分种类：科学计算、事务处理、实时控制、工作站、服务器、家用计算机等。划分原则：科学计算：浮点计算速度；事务处理：字符处理、十进制运算；实时控制：中断响应速度、I/0能力；工作站：图形处理能力发展方向：具备上述所有功能的通用处理机3.按数据类型划分种类：定点机、浮点机、向量机、堆栈机等4.按处理机个数和种类划分种类：单处理机、并行处理机、多处理机、分布处理机、关联处理机、超标量处理机、超流水线处理机、SMP（对称多处理机）、MPP（大规模并行处理机）、机群（Cluster）系统等5.按所使用的器件划分种类：

第一代(Valve)

第二代(Transitor)

第三代(SSI和MSI)第四代(LSI和VLSI)

第五代(智能计算机)等

1.5.2按并行度的分类方法1.佛林（Flynn）分类法1966年由Michael.J.Fl