第五章重叠流水和向量计算机1ppt课件.ppt

第五章流水和指令级高度并行的超级机 加速机器语言解释的两种方式 通过选用更高速的器件 采用更好的运算方法 提高指令内各微操作的并行程度 减少解释过程所需要的拍数 以加快每条指令的解释 通过控制机构采用同时解释两条 多条以至整段程序的控制方式 加快整个机器语言程序的解释 重叠 流水 WhatIsPipelining Laundry 洗衣 ExampleAnn Brian Cathy Daveeachhaveoneloadofclothestowash dry andfoldWashertakes30minutesDryertakes40minutes Folder takes20minutes WhatIsPipelining Sequentiallaundrytakes6hoursfor4loadsIftheylearnedpipelining howlongwouldlaundrytake 30 40 20 30 40 20 30 40 20 30 40 20 6PM 7 8 9 10 11 Midnight TaskOrder Time WhatIsPipeliningStartworkASAP Pipelinedlaundrytakes3 5hoursfor4loads 6PM 7 8 9 10 11 Midnight TaskOrder Time PipeliningLessons Pipeliningdoesn thelplatencyofsingletask ithelpsthroughputofentireworkloadPipelineratelimitedbyslowestpipelinestageMultipletasksoperatingsimultaneouslyPotentialspeedup NumberpipestagesUnbalancedlengthsofpipestagesreducesspeedupTimeto fill pipelineandtimeto drain 排出 itreducesspeedup 6PM 7 8 9 TaskOrder Time WhatIsPipelining 目录 重叠方式流水方式向量的流水处理与向量流水处理机指令级高度并行的超级处理机 1重叠方式 基本思想和一次重叠相关处理 顺序解释与重叠解释 顺序解释 重叠解释的一种方式 一次重叠的工作方式 基本思想和一次重叠 顺序解释 各条机器指令之间顺序串行地执行 执行完一条指令后采取出下条指令来执行 而且每条指令内部的各个微操作也是顺序串行地执行 优点 控制简单 重叠解释 在解释第k条指令的操作完成之前 就可开始解释第k 1条指令不能加快一条指令的实现但能加快相邻两条以至一段程序的解释 时间重叠 解决访存冲突 操作数和指令分存于两个独立编址且可同时访问的存储器 有利于实现指令保护 增加总线控制和软件设计的复杂性混存 采用多体交叉主存结构增设指令缓冲寄存器 解决访存冲突 续 在硬件上 保证又独立的指令分析部件和指令执行部件 两部分执行的时间常常不相同 在硬件上解决好控制上的同步 控制上的其他问题指令转移 下图 相关问题 数相关 第k k 1条指令的数据地址之间有了关联 数相关不仅发生在主存空间 还会发生在通用寄存器空间指令相关 采用VonNeumann型机器上指令可修改的办法经第k条指令的执行来形成第k 1条指令 指令相关的处理 原因 VonNeumann型机器的指令允许修改 解决 在程序执行过程中 不准修改指令 除可解决指令相关 也可实现程序的可再入性和程序的递归调用 主存空间数相关的处理 相邻两条指令之间要求对主存同一单元线写入而后再读出的关联 解决 延迟 通用寄存器数相关处理 延迟和设置 相关专用通路 是解决重叠方式相关处理的两种基本方法 前者设备不变 降低速度 后者增加设备 效率不变 举例 假设指令 操作码L1L3B2d2L1 L3分别指明存放第一操作数和结果数的通用寄存器号B2为形成第二操作数地址的基址值所在的通用寄存器号D2为相对位移量 指令解释过程中与通用寄存器内容有关的微操作时间关系 存结果 执行 分析 重叠时 访问通用寄存器组的时间关系 当程序执行过程中出现L1 k 1 L3 k 就发生L1相关 而当L2 k 1 L3 k 就发生L2相关 解决 退后 延迟设备不增加 速度降低 适合于相关概率低设置 相关专用通路 增加设备 效率不会明显下降 适合于相关概率高 用相关专用通路解决通用寄存器组的数相关 顺序执行方式 执行n条指令所用的时间为 如每段时间都为t 则执行n条指令所用的时间为 T 3nt主要优点 控制简单 节省设备主要缺点 执行指令的速度慢 功能部件的利用率很低 一次重叠执行方式 一种最简单的流水线方式 如果两个过程的时间相等 则执行n条指令的时间为 T 1 2n t主要优点 指令的执行时间缩短功能部件的利用率明显提高主要缺点 需要增加一些硬件控制过程稍复杂 二次重叠执行方式 如果三过程的时间相等 执行n条指令的时间为 T 2 n t理想情况下同时有三条指令在执行处理机的结构要作比较大的改变 必须采用先行控制方式 先行控制方式的原理 采用二次重叠执行方式 必须解决两个问题 有独立的取指令部件 指令分析部件和指令执行部件独立的控制器 存储控制器 指令控制器 运算控制器要解决访问主存储器的冲突问题取指令 分析指令 执行指令都可能要访问存储器解决访存冲突的方法 采用低位交叉存取方式 这种方法不能根本解决冲突问题 先行控制方式的原理 续 两个独立的存储器 独立的指令存储器和数据存储器 如果再规定 执行指令所需要的操作数和执行结果只写到通用寄存器 那么 取指令 分析指令和执行指令就可以同时进行 在许多高性能处理机中 有独立的指令Cache和数据Cache 这种结构被称为哈佛结构 Harvardarchitecture 先行控制方式的原理 续 采用先行控制技术 先行控制技术的关键是缓冲技术和预处理技术 缓冲技术是在工作速度不固定的两个功能部件之间设置缓冲栈 用以平滑它们的工作 在采用了缓冲技术和预处理技术之后 运算器能够专心于数据的运算 从而大幅度提高程序的执行速度 结果 解决了分析与执行时间不等长问题 与重叠区别 分析和执行部件可同时处理两条不相邻指令