CPU的新技术-流水线工作原理

1、CPU的新技术-流水线工作原理1 5.5.1 5.5.1 流水线工作原理流水线工作原理 并行处理技术并行处理技术 并行性的两种含义：并行性的两种含义： 同时性同时性 指两个以上事件在同一时刻发指两个以上事件在同一时刻发 生；生； 并发性并发性 指两个以上事件在同一时间间指两个以上事件在同一时间间 隔内发生。隔内发生。 CPU的新技术-流水线工作原理2 计算机的并行处理技术概括起计算机的并行处理技术概括起 来主要有以下三种形式：来主要有以下三种形式： CPU的新技术-流水线工作原理3 时间并行指时间重叠，在并行性时间并行指时间重叠，在并行性 概念中引入时间因素，让多个处理过概念中引入时间因素，让

2、多个处理过 程在时间上相互错开，轮流重叠地使程在时间上相互错开，轮流重叠地使 用同一套硬件设备的各个部分，以加用同一套硬件设备的各个部分，以加 快硬件周转而赢得速度。快硬件周转而赢得速度。 CPU的新技术-流水线工作原理4 时间并行性概念的实现方式就是采时间并行性概念的实现方式就是采 用流水处理部件。这是一种非常经济而用流水处理部件。这是一种非常经济而 实用的并行技术，能保证计算机系统具实用的并行技术，能保证计算机系统具 有较高的性能价格比。目前的高性能微有较高的性能价格比。目前的高性能微 型机几乎无一例外地使用了流水技术。型机几乎无一例外地使用了流水技术。 CPU的新技术-流水线工作原理5

3、空间并行指资源重复，在并行性空间并行指资源重复，在并行性 概念中引入空间因素，以概念中引入空间因素，以“数量取胜数量取胜” 为原则来大幅度提高计算机的处理速为原则来大幅度提高计算机的处理速 度。度。 大规模和超大规模集成电路的迅大规模和超大规模集成电路的迅 速发展为空间并行速发展为空间并行 技术带来了巨大生技术带来了巨大生 机，因而成为目前实现并行处理的一机，因而成为目前实现并行处理的一 个主要途径。个主要途径。 CPU的新技术-流水线工作原理6 空间并行技术主要体现空间并行技术主要体现 在多处理器在多处理器 系统和多计算机系统。但是在单处理系统和多计算机系统。但是在单处理 器系统中也得到了广

4、泛应用。器系统中也得到了广泛应用。 CPU的新技术-流水线工作原理7 3.时间并行时间并行+空间并行空间并行 指时间重叠和资源重复的综合应指时间重叠和资源重复的综合应 用用 ，既采用时间并行性又采用空间，既采用时间并行性又采用空间 并行性。显然，第三种并行技术带并行性。显然，第三种并行技术带 来的高速效益是最好的。来的高速效益是最好的。 CPU的新技术-流水线工作原理8 流水计算机的系统组成流水计算机的系统组成 现代流水计算机的系统组成原理现代流水计算机的系统组成原理 如下图所示。其中如下图所示。其中CPU按流水线方式按流水线方式 组织，通常由三部分组成：指令部件、组织，通常由三部分组成：指令

5、部件、 指令队列、执行部件。这三个功能部指令队列、执行部件。这三个功能部 件可以组成一个件可以组成一个3级流水线。级流水线。 CPU的新技术-流水线工作原理9 CPU的新技术-流水线工作原理10 l为了使存储器的存取时间能与流水为了使存储器的存取时间能与流水 线的其他各过程段的速度相匹配，线的其他各过程段的速度相匹配， 一般都采用多体交叉存器。一般都采用多体交叉存器。 l执行段的速度匹配问题：通常采用执行段的速度匹配问题：通常采用 并行的运算部件以及部件流水线的并行的运算部件以及部件流水线的 工作方式来解决。工作方式来解决。 CPU的新技术-流水线工作原理11 l(1)将执行部件分为定点执行部

6、件和将执行部件分为定点执行部件和 浮点执行部件两个可并行执行的部浮点执行部件两个可并行执行的部 分，分， 分别处理定点运算指令和浮点分别处理定点运算指令和浮点 运算指令；运算指令； l(2)在浮点执行部件中，又有浮点加在浮点执行部件中，又有浮点加 法部件和浮点法部件和浮点 乘乘/除部件，它们也可除部件，它们也可 以同时执行不同的指令；以同时执行不同的指令； l(3)浮点运算部件都以流水线方式工浮点运算部件都以流水线方式工 作。作。 CPU的新技术-流水线工作原理12 CPU的新技术-流水线工作原理13 流水线分类流水线分类 指令流水线指令流水线 指指令步骤的并行。将指令流的处理指指令步骤的并行

7、。将指令流的处理 过程划分为取指令、译码、执行、写过程划分为取指令、译码、执行、写 回等几个并行处理的过程段。目前，回等几个并行处理的过程段。目前， 几乎所有的高性能计算机都采用了指几乎所有的高性能计算机都采用了指 令流水线。令流水线。 CPU的新技术-流水线工作原理14 算术流水线算术流水线 指运算操作步骤的并行。如流水加法指运算操作步骤的并行。如流水加法 器、流水乘法器、流水除法等。器、流水乘法器、流水除法等。 现现 代计算机中已广泛采用了流水的算代计算机中已广泛采用了流水的算 术运算器。术运算器。 CPU的新技术-流水线工作原理15 又称为宏流水线，是指程序步骤的并又称为宏流水线，是指程

8、序步骤的并 行。由一串级联的处理机构成流水线行。由一串级联的处理机构成流水线 的各个过程段，每台处理机负责某一的各个过程段，每台处理机负责某一 特定的任务。特定的任务。 CPU的新技术-流水线工作原理16 . 资源相关资源相关 指多条指令进入流水线后在同一指多条指令进入流水线后在同一 机器时钟周期内争用同一个功能部机器时钟周期内争用同一个功能部 件所发生的冲突。假定一条指令流件所发生的冲突。假定一条指令流 水线由五段组成。由下表可以看出，水线由五段组成。由下表可以看出， 在时钟在时钟4时，时，I1与与I4两条指令发生争两条指令发生争 用存储器资源的相关冲突。用存储器资源的相关冲突。 CPU的新

9、技术-流水线工作原理17 CPU的新技术-流水线工作原理18 一是第一是第I4条指令停顿一拍后再启动；条指令停顿一拍后再启动； 二是增设一个存储器，将指令和数据二是增设一个存储器，将指令和数据 分别放在两个存储器中。分别放在两个存储器中。 CPU的新技术-流水线工作原理19 在一个程序中，如果必须等前一在一个程序中，如果必须等前一 条指令执行完毕后，才能执行后一条条指令执行完毕后，才能执行后一条 指令，那么这两条指令就是数据相关指令，那么这两条指令就是数据相关 的。的。 CPU的新技术-流水线工作原理20 在流水计算机中，指令的处理是重叠进在流水计算机中，指令的处理是重叠进 行的，前一条指令还

10、没有结束，第二、行的，前一条指令还没有结束，第二、 三条指令就陆续地开始工作。由于多条三条指令就陆续地开始工作。由于多条 指令的重叠处理，当后继指令所需的操指令的重叠处理，当后继指令所需的操 作数，刚好是前一指令的运算结果时，作数，刚好是前一指令的运算结果时， 便发生数据相关冲突。如下表所示，便发生数据相关冲突。如下表所示， ADD指令与指令与SUB指令发生了数据相关指令发生了数据相关 冲突。冲突。 CPU的新技术-流水线工作原理21 CPU的新技术-流水线工作原理22 解决数据相关冲突的办法：解决数据相关冲突的办法： 在流水在流水CPU的运算器中设置若干运算的运算器中设置若干运算 结果缓冲寄

11、存器，暂时保留运算结结果缓冲寄存器，暂时保留运算结 果，以便于后继指令直接使用，这果，以便于后继指令直接使用，这 称为称为“向前向前”或定向传送技术。或定向传送技术。 CPU的新技术-流水线工作原理23 控制相关冲突是由转移指令引起控制相关冲突是由转移指令引起 的。当执行转移指令时，依据转移条的。当执行转移指令时，依据转移条 件的产生结果，可能为顺序取下条指件的产生结果，可能为顺序取下条指 令；也可能转移到新的目标地址取指令；也可能转移到新的目标地址取指 令，从而使流水线令，从而使流水线 发生断流。发生断流。 为了减小转移指令对流水线性能为了减小转移指令对流水线性能 的影响，常用以下两种转移处

12、理技术：的影响，常用以下两种转移处理技术： CPU的新技术-流水线工作原理24 延迟转移法延迟转移法 由编译程序重排指令序列来实现。基由编译程序重排指令序列来实现。基 本思想是本思想是“先执行再转移先执行再转移”，即发生，即发生 转移取时并不排空指令流水线，而是转移取时并不排空指令流水线，而是 让紧跟在转移指令让紧跟在转移指令Ib之后已进入流水之后已进入流水 线线 的少数几条指令继续完成。如果这的少数几条指令继续完成。如果这 些指令是与些指令是与Ib结果无关的有用指令，结果无关的有用指令， 那么延迟损失时间片正好得到了有效那么延迟损失时间片正好得到了有效 的利用。的利用。 CPU的新技术-流水

13、线工作原理25 转移预测法转移预测法 用硬件方法来实现，依据指令过去用硬件方法来实现，依据指令过去 的行为来预测将来的行为。通过使的行为来预测将来的行为。通过使 用转移取和顺序取两路指令预取队用转移取和顺序取两路指令预取队 列器以及目标指令列器以及目标指令cache，可将转移，可将转移 预测提前到取指阶段进行，以获得预测提前到取指阶段进行，以获得 良好的效果。良好的效果。 CPU的新技术-流水线工作原理26 由于一个由于一个CPUCPU周期对应一条微周期对应一条微 指令，图指令，图5.155.15所示的所示的4 4条典型指令的条典型指令的 指令周期图，就是这指令周期图，就是这4 4条指令的微程

14、条指令的微程 序流程图。序流程图。 从中可以看出，设计微程序的流程，从中可以看出，设计微程序的流程， 也进一步可体验到机器指令与微指也进一步可体验到机器指令与微指 令的关系。令的关系。 CPU的新技术-流水线工作原理27 CPU的新技术-流水线工作原理28 微程序设计的关键是微指令结构的设计。微程序设计的关键是微指令结构的设计。 设计微指令结构需要考虑以下问题（也设计微指令结构需要考虑以下问题（也 是微程序设计技术所要讨论的问题）：是微程序设计技术所要讨论的问题）： l如何缩短微指令字的长度。如何缩短微指令字的长度。 l如何减小控制存储器的容量。如何减小控制存储器的容量。 l如何减少微程序长度

15、。如何减少微程序长度。 l如何提高微程序的执行速度。如何提高微程序的执行速度。 l如何易于修改微指令。如何易于修改微指令。 如何增加微程序设计的灵活性。如何增加微程序设计的灵活性。 CPU的新技术-流水线工作原理29 微指令由控制字段和顺序控制微指令由控制字段和顺序控制 字段组成。微指令编码译码控制方字段组成。微指令编码译码控制方 法，就是对微指令中的操作控制字法，就是对微指令中的操作控制字 段进行编码表示，并且给出操作控段进行编码表示，并且给出操作控 制信号的方法。通常有以下几种方制信号的方法。通常有以下几种方 法：法： CPU的新技术-流水线工作原理30 采用位直接控制法的微指令结构采用位

16、直接控制法的微指令结构 如图如图5.205.20所示。在微指令的控制字所示。在微指令的控制字 段中，每一位表示一个微命令，在段中，每一位表示一个微命令，在 设计微指令时，只要将微指令控制设计微指令时，只要将微指令控制 字段中相应位置成字段中相应位置成11或或00， 便可发出或禁止某个微命令，这就便可发出或禁止某个微命令，这就 是位直接控制法。是位直接控制法。 CPU的新技术-流水线工作原理31 操作控制部分 顺序控制部分 测试标志 顺序地址 控制信号 W/R Si- S0 下 一条指令地址 图5.20 微指令基本格式 CPU的新技术-流水线工作原理32 采用字段直接译码控制法的微指采用字段直接

17、译码控制法的微指 令结构如图令结构如图5.235.23所示。字段直接译所示。字段直接译 码控制法就是把一组相斥性的微命码控制法就是把一组相斥性的微命 令信号组成一个字段（一个小组），令信号组成一个字段（一个小组）， 然后通过字段译码器对每一个微命然后通过字段译码器对每一个微命 令信号进行译码，译码输出作为操令信号进行译码，译码输出作为操 作控制信号。作控制信号。 CPU的新技术-流水线工作原理33 图图5.23 5.23 字段直接译码控制法字段直接译码控制法 微命令译码器 。 。 。 微指令寄存器 字段1字段2。S字段 下址字段 译码译码译码 微命令 微命令 （ S1 S2 Sn ） 操作控制

18、部分 顺序控制部分 CPU的新技术-流水线工作原理34 采用字段译码的编码方法，可以用较采用字段译码的编码方法，可以用较 小的二进制信息位表示较多的微命小的二进制信息位表示较多的微命 令信号。例如令信号。例如3位二进位译码后可表位二进位译码后可表 示示7个微命令，个微命令，4位二进制位译码后位二进制位译码后 可表示可表示15个微命令。个微命令。 CPU的新技术-流水线工作原理35 字段间接译码控制法是在字段字段间接译码控制法是在字段 直接译码控制法的基础上，进一步直接译码控制法的基础上，进一步 缩短微指令字长的方法。若在字段缩短微指令字长的方法。若在字段 直接译码控制法中规定一个字段的直接译码

19、控制法中规定一个字段的 某些命令由另一个字段中的某些微某些命令由另一个字段中的某些微 命令来解释，则这种方法称为字段命令来解释，则这种方法称为字段 间接译码控制法，如图间接译码控制法，如图5.245.24所示。所示。 CPU的新技术-流水线工作原理36 图图5.24 5.24 字段间接译码控制字段间接译码控制 法法 AB. 微指令 寄存器 . . 微指令译码器微指令译码器 b1 b2 a1,1 a2,1 a7,1 a1,2 a2,2 a7,2 . CPU的新技术-流水线工作原理37 这是将位直接控制法与字段译这是将位直接控制法与字段译 码控制法混合使用的方法，能综合码控制法混合使用的方法，能综

20、合 考虑微指令字长、灵活性和执行微考虑微指令字长、灵活性和执行微 程序速度等方面的要求程序速度等方面的要求 CPU的新技术-流水线工作原理38 它是通过在微指令中附设一个常它是通过在微指令中附设一个常 数字段，就像指令中的立即数一样，数字段，就像指令中的立即数一样， 来给某些执行部件直接发送常数的。来给某些执行部件直接发送常数的。 该常数有时作为操作数送入该常数有时作为操作数送入ALUALU参加参加 运算，有时也作为计数器的初值来运算，有时也作为计数器的初值来 控制微程序循环次数。控制微程序循环次数。 CPU的新技术-流水线工作原理39 当前正在执行的微指令，称为现行当前正在执行的微指令，称为

21、现行 微指令，现行微指令所在的控制存储器微指令，现行微指令所在的控制存储器 单元的地址称为现行微地址。现行微指单元的地址称为现行微地址。现行微指 令执行完毕后，下一条要执行的微指令令执行完毕后，下一条要执行的微指令 称为后继微指令。后继微指令所在的控称为后继微指令。后继微指令所在的控 制存储器单元地址称为后继微地址。制存储器单元地址称为后继微地址。 微程序流的控制是当现行微指令执微程序流的控制是当现行微指令执 行完毕后，控制产生后继微指令的后继行完毕后，控制产生后继微指令的后继 微地址的过程。通常，产生后继微地址微地址的过程。通常，产生后继微地址 有有3 3种方法。种方法。 CPU的新技术-流

22、水线工作原理40 这种方法与使用程序计数器产这种方法与使用程序计数器产 生机器指令地址的方法类似，在顺生机器指令地址的方法类似，在顺 序执行微指令时，后继微地址由现序执行微指令时，后继微地址由现 行微地址加上一个增量来产生；在行微地址加上一个增量来产生；在 非顺序执行微指令时，必须通过转非顺序执行微指令时，必须通过转 移方式使现行微指令执行后，转去移方式使现行微指令执行后，转去 执行指定的后继微地址的下一条微执行指定的后继微地址的下一条微 指令。指令。 CPU的新技术-流水线工作原理41 在这种方法中，微地址寄存器在这种方法中，微地址寄存器 通常改为计数器，顺序执行的微指通常改为计数器，顺序执

23、行的微指 令序列必须安排在控制存储器的连令序列必须安排在控制存储器的连 续单元中。续单元中。 计数器方式的基本特点是，微计数器方式的基本特点是，微 指令的顺序控制字段较短，微地址指令的顺序控制字段较短，微地址 产生机构简单。但是，多路并行转产生机构简单。但是，多路并行转 移功能较弱、速度较慢、灵活性较移功能较弱、速度较慢、灵活性较 差。差。 CPU的新技术-流水线工作原理42 这种方法将微指令顺序控制部分这种方法将微指令顺序控制部分 分成两个子部分：条件选择字段和分成两个子部分：条件选择字段和 转移地址字段。当微程序转移时，转移地址字段。当微程序转移时， 将转移地址送微程序计数器（将转移地址送

24、微程序计数器（ PCPC），）， 否则顺序执行下一条微指令（否则顺序执行下一条微指令（ PCPC加加 1 1）。图）。图5.255.25所示的是增量方式与断所示的是增量方式与断 定方式结合形成微地址的示意图。定方式结合形成微地址的示意图。 CPU的新技术-流水线工作原理43 (a)微程序控制器组成示意图; 图5.25 增量方式与断定方式结合的方法 控制字段（可编码） MUX PC 控制存储器 CM . 外部条件 外部地址 +1 条件选择 . IR 打入 转移地址 CPU的新技术-流水线工作原理44 图图 5.25(b)5.25(b)所示的是微指令格所示的是微指令格 式，由微命令控制字段、条件选

25、择式，由微命令控制字段、条件选择 字段和转移地址字段三部分组成。字段和转移地址字段三部分组成。 微命令控制字段可以编码或直接控微命令控制字段可以编码或直接控 制。条件选择字段用来规定条件转制。条件选择字段用来规定条件转 移微指令要测试的外部条件。当转移微指令要测试的外部条件。当转 移条件满足时，转移地址字段用作移条件满足时，转移地址字段用作 下一个微地址；如无转移要求，则下一个微地址；如无转移要求，则 使用微程序计数器使用微程序计数器 PCPC提供下一条微提供下一条微 指令的地址。指令的地址。 CPU的新技术-流水线工作原理45 ( (b)b)微指令格式微指令格式 图图5.25 5.25 增量

26、方式与断定方式结合的方法增量方式与断定方式结合的方法 条件选择条件选择 转移地址转移地址 微指令控制微指令控制 CPU的新技术-流水线工作原理46 在多路转移方式中，当微程序不在多路转移方式中，当微程序不 产生分支时，后继微地址直接由微指产生分支时，后继微地址直接由微指 令的顺序控制字段给出；当微程序出令的顺序控制字段给出；当微程序出 现分支时，将有若干个候选微地址可现分支时，将有若干个候选微地址可 供选择，按顺序控制字段的供选择，按顺序控制字段的“判别测判别测 试试”标志和标志和“状态条件状态条件”信息来选信息来选 择其中一个微地址。择其中一个微地址。 CPU的新技术-流水线工作原理47 状态条件若有状态条件若有n n位标志，则可实现位标志，则可实现 微程序微程序2 2n n 路转移，涉及微地址寄存 路转移，涉及微地址寄存 器的器的n n位。因此，执行转移微指令时，位。因此，执行转移微指令时， 根据状态条件可转移到根据状态条件可转移到2 2n n个微地址个微地址 中的一个。中的一个。 多路转移方式的特点是，能与较多路转移方式的特点是，能与较 短的顺序控制字段配合，实现多路