第3章流水技术与流水处理机

武汉理工大学计算机系统结构教程 武汉理工大学武汉理工大学计算机系统结构教程目 录第 3章 流水技术与流水处理机3.1 指令重叠与先行控制3.2 流水线的分类与性能3.3 非线性流水线的调度与性能计算3.4 流水线的相关问题与相关处理3.5 多发射处理机及其性能3.6 向量流水处理机及其性能武汉理工大学计算机系统结构教程第 3章 流水技术与流水处理机武汉理工大学计算机系统结构教程3.1 指令重叠与先行控制 提高处理机性能的一个途径是缩短指令序列执行提高处理机性能的一个途径是缩短指令序列执行的时间，提高指令平均执行速度。的时间，提高指令平均执行速度。 提高指令执行速度有以下 3种途径： 提高处理机的工作主频。目前，处理机的工作主频已达 GHz的水平以上，以提高主频来提高指令执行速度的趋势已经明显减缓。采用 RISC技术减少指令执行的平均周期数。采用指令级并行技术，使多条指令并行执行。 武汉理工大学计算机系统结构教程3.1 指令重叠与先行控制3.1.1 指令的顺序执行方式与重叠执行方式 指令顺序执行方式 : 是指指令之间顺序串行，且指令内的各个阶段之间也是顺序串行的方式。 指令重叠执行方式 : 如果处理机在结构上能使执行指令各阶段功能的部件或段（ segment）相互独立，而且各段完成相应功能的所需时间尽可能相等，那么，就可以把一个指令序列中的多条指令在时间上重叠起来执行。 武汉理工大学计算机系统结构教程3.1.2 先行控制技术 为使指令序列能够重叠执行，处理机在结构上必须解决以下两个问题。 首先，需要有独立的取指令部件、指令分析部件和指令执行部件，才能实现取指令、分析和执行的同时进行。 其次，要解决访问主存的冲突问题。 通常，有以下 3种方法来解决这个问题。 武汉理工大学计算机系统结构教程1. 采用两个独立编址的存储器组成主存 把主存分成两个独立编址的存储器，一个是专门存放指令的指令存储器，简称指存；另一个是专门存放数据的数据存储器，简称数存。两个存储器可同时独立访问，这就解决了取指令和读操作数的冲突。 武汉理工大学计算机系统结构教程2. 主存采用并行存储器 主存采用多体低位交叉编址的并行存储器，从而可使得在一个存储周期中访问多个存储单元。 3. 采用先行控制技术先行控制技术的关键是缓冲技术和预处理技术。缓冲技术是在工作速度不固定的两个功能部件之间设置缓冲栈，用以平滑它们的工作速度的差异。预处理技术是把进入运算器的指令都处理成寄存器 寄存器型（ RR型）指令，它与缓冲技术相结合，为进入运算器的指令准备好所需要的全部操作数。 武汉理工大学计算机系统结构教程采用先行控制技术的处理机结构 武汉理工大学计算机系统结构教程3.2 流水线的分类与性能 流水处理方式 是把一个需要反复进行的过程分离为若干独立的子过程，每个子过程与其他子过程同时处理不同的对象。 流水处理方式是利用时间重叠的并行技术来开发计算机系统的并行性。 武汉理工大学计算机系统结构教程3.2.1 流水线的分类与时空图1. 流水线的分类 （ 1）部件级流水线、处理机级流水线和系统级流水线部件级流水线 : 是指由部件内各子部件组成的流水线。 处理机级流水线 : 是指处理机内的各部件之间的流水线。 系统级流水线 : 是指处理机之间的流水线，它又称为宏流水线。 武汉理工大学计算机系统结构教程（ 2）线性流水线与非线性流水线 线性流水线 : 是指流水线的各个段之间串行连接，处理对象顺序流经流水线各段最多一次的流水线。 非线性流水线 : 是指流水线的各段之间除有串行连接之外，还有反馈回路，从而使处理对象流经某个段或某几个段多次的流水线。 武汉理工大学计算机系统结构教程（ 3）单功能流水线与多功能流水线单功能流水线 : 是指流水线的各段之间的连接固定不变，因此只能完成一种固定功能的流水线。 多功能流水线 : 是指流水线的各段之间可以实现不同的连接，流水线能通过不同的连接实现不同的处理功能。 武汉理工大学计算机系统结构教程（ 4）静态流水线与动态流水线 静态流水线 : 是指在同一段时间内，多功能流水线只能实现一种连接，从而只能执行一种功能，且只有在按照这种连接已流入的所有处理对象都流出流水线后，才能重新连接以实现另一种功能。 动态流水线 :是指在同一段时间内，多功能流水线的各段可以实现多种连接，从而同时执行多种功能。当然，流水线中的任何一个功能段只能参加到一种连接中。 武汉理工大学计算机系统结构教程（ 5）标量流水处理机与向量流水处理机 标量流水处理机 :只有流水线，没有向量数据表示和相应的向量指令，处理向量时，采用流水执行方式对向量各元素（标量数据）按标量指令的要求进行处理。 向量流水处理机 :是向量数据表示与向量指令流水线的结合，一个向量指令序列可以在向量流水处理机上流水地执行。 武汉理工大学计算机系统结构教程2. 时空图时空图 :是描述流水线工作过程的一种较好的工具。时空图用横轴表示时间，当流水线中各功能部件的执行时间都相等时，横轴被分割成相等长度的时间段。时空图的纵轴表示流水线的各功能部件，每个功能部件通常称为一个功能段。 武汉理工大学计算机系统结构教程浮点加法器流水线 :武汉理工大学计算机系统结构教程浮点加法器流水线的时空图 :空间规格化尾数加对阶求阶差 求 阶 差5求 阶 差 4求 阶 差 3求 阶 差 2求 阶 差1对阶 5对阶 4对阶 3对阶 2对阶 1尾数加 5尾数加 4尾数加 3尾数加 2尾数加 1规 格化5规 格化 4规 格化3规 格化2规 格化 10 t1 t2 t3 t4 t5 t6 t7 t8 时间 武汉理工大学计算机系统结构教程3.2.2 线性流水线的性能计算1. 吞吐率 流水线的吞吐率是指流水线单位时间输出结果的数量。（ 1）各段执行时间相等的吞吐率若一条 k段线性流水线，各段执行时间相等，均为 ，当有 n个处理对象连续流入流水线时，流水线的工作过程可用时空图表示为： 武汉理工大学计算机系统结构教程nn-1321S1nn-1321S2nn-1321S3nn-1321S4时间空间 各段执行时间均相等的流水线时空图： 武汉理工大学计算机系统结构教程流水线的实际吞吐率为： 最大吞吐率为：武汉理工大学计算机系统结构教程最大吞吐率与实际吞叶率的关系是：只有当 nk 时，即连续输入流水线的处理对象数 n 远大于流水线的段数 k 时，实际吞吐率 TP 才接近于最大吞吐率 TPmax。 武汉理工大学计算机系统结构教程（ 2）各段执行时间不等的吞吐率 若一条 k 段线性流水线，各段执行时间 , , , 不相等，那么，除第一个对象外，其余 (n-1) 个对象必须按瓶颈时间间隔 max( , , , ) 连续流入流水线。 武汉理工大学计算机系统结构教程消除流水线的瓶颈段，以提高流水线吞吐率的方法有两种 ： 分离瓶颈段 : 把流水线中的瓶颈功能段分离成为几个独立的子功能段，消除各段执行时间的 “瓶颈 ”。 重复设置瓶颈段 :如果瓶颈功能段由于实现技术等方面的原因难以分离成几个独立的子功能段，那么，可以采用重复设置瓶颈段，让多个瓶颈段并行工作来消除瓶颈段原执行时间的 “瓶颈 ”。 这两种方法只要完全消除了 “瓶颈 ”，提高吞吐率的程度是相同的。 武汉理工大学计算机系统结构教程2. 加速比 流水线的加速比 : 是指使用顺序处理方式处理一批对象所用的时间与流水线使用流水处理方式处理同一批对象所用的时间之比。 （ 1）各段执行时间相等的加速比 一条各段执行时间均为 的 k 段线性流水线，若有 n 个对象连续流入，那么，流水线流水处理这 n 个对象所用的时间为 。若顺序处理这 n 个对象，则所用时间为 。 武汉理工大学计算机系统结构教程实际加速比为 : 最大加速比为 : 武汉理工大学计算机系统结构教程（ 2）各段执行时间不等的加速比当流水线各功能段的执行时间不相等时，一条 k段线性流水线完成 n个连续输入的对象的实际加速比为 武汉理工大学计算机系统结构教程3. 效 率 流水线的效率 : 是指流水线的设备利用率。它是流水线各段的有效工作时间之和与