向量流水线计算机技术.ppt

向量处理机结构目前已成为解决数值计算问题的一种最重要的高性能结构 向量处理机的性能价格比是很引人注目的 因为与相同价格的串行处理机相比 它们的向量运算吞吐量要高出1 2个数量级 但是 这种吞吐量提高只是对特定结构问题而言 也就是说 局限于那些可以转化为向量运算的问题 第六章向量流水线技术 P347 前言 本章任务了解向量处理机特点 一般结构 并掌握提高向量处理机性能方法 6 1特点多数为巨型机 绝大多数向量处理机都采用流水线结构 当一条流水线不能达到所要求性能时 设计者往往采用多条单功能流水线 第六章向量流水线技术 向量处理机的结构 为实现向量化处理 向量处理机操作部件一般采用流水线结构 下面是典型的向量加法器结构 向量处理机设计中要解决两个问题 1 设法维持连续数据流 提供连续的A和B 2 设法降低对存储器压力 向量处理机一般采取以下技术措施 1 用多独立存储器模块达到需要带宽 例STAR 100 32体 2 增设高速中间存储器 向量寄存器 根据采用技术措施不同 向量处理机分为两种不同结构 1 存储器 存储器结构 2 寄存器 寄存器结构 第一节向量处理机的结构 1 存储器 存储器结构 第一节向量处理机的结构 主存储器由多个存储器模块构成 流水线运算器与主存储器系统间有三条相互独立的数据通路 各数据通路可同时工作 第一节向量处理机的结构 假设一个存储周期占两个处理机周期 下图是计算C A B最理想方法 第一节向量处理机的结构 典型系统 CDC的STAR 100 1973年完成 主要技术参数 主频 40ns 字长 64位 主存容量 100万字 磁芯存储器 32体 存储周期为1 28微妙 每个体的数据宽度为8个字 STAR 100存储系统的频带宽度为 32 8 1 28微妙 2 字 秒 使主存有较高带宽的另一种方法是由一级或多级中间存储器形成一个层次结构存储器系统 其中带宽最高的这级存储器安排在距处理器最近位置 即寄存器一寄存器结构 CRAY 1是世界上第一台向量流水处理巨型机 是美国Cray公司于1976年提供产品 运算速度达亿次 秒以上巨型机 速度这么高的一个原因是它采用了层次结构的存储器系统 第一节向量处理机的结构 2 寄存器 寄存器结构 简化的Cray l的框图 主存与流水结构运算器间有一级或两级中间存储器 中间存储器与CACHE比特点 不透明 访问快 支持新数据结构 3 两种结构的简单比较 第一种结构是依靠主存来保证流水线所需的操作数 因此主存必须具有至少和运算器所要求带宽一样高的带宽 这就要求主存或者存取速度足够快 或者分为多个独立的存储模块 或者两者都具备 因为运算器要求的最大带宽非常高 第二种结构是通过容量比主存小得多的中间存储器即寄存器来保证很高的带宽 这样 低速存取主存就不会妨碍流水结构运算器连续运行 第二种结构的另一好处是流水结构运算器可以重叠进行 因为高速寄存器带宽足以满足几个流水结构运算部件的带宽要求 第一节向量处理机的结构 6 2典型工作方式CRAY 1是世界上第一台向量流水处理巨型机 1 CRAY 1技术术语向量寄存器组V0 V1 V7 分量计数器链接方式 P370 启动 输出延迟 各1拍 D A B C 向量长度 64 B和C已取至V0和V1 V3 AV2 V0 V1V4 V2 V3第一 二条指令既无寄存器冲突 也无功能部件冲突 可并行执行 第三条与第一 二条指令均存在先写后读的相关冲突 可将第三条与第一 二条指令链接 由于同步的要求 数据进入和流出每个功能部件 包括访存都需要1拍时间 2 链接技术 369 前一条指令结果不必送回存储器直接作为后一条指令的操作数 甚至可在前一条指令完成之前就使用其结果 若采用链接技术 则执行时间为 1 6 1 1 7 1 N l N 16拍若这三条指令全部用串行方法 则执行时间为 1 6 1 N 1 1 6十1 N 1 1 7 1 N 1 3N 22拍若前两条指令并行执行 第三条指令串行执行 则执行时间为 1 6 1 N 1 1 7 l N 1 2N 15拍 假设向量长度为N 分析 实现链接除了无向量寄存器使用冲突和无功能部件使用冲突外 还有时间上的要求 只有当前一条指令的第一个结果分量送入结果向量寄存器的那一个时钟周期方可链接 若错过该时刻就不能进行链接 只有当前一条向量指令全部执行完毕 释放向量寄存器资源后才能执行后面指令 另外 当一条向量指令的两个源操作数分别是两条先行指令的结果寄存器时 要求先行的两条指令产生运算结果的时间必须相等 即要求有关功能部件的延迟时间相等 此外还要求这两条向量指令的向量长度必须相等 否则也不能链接 功能部件冲突 指令运算符号相同 Vi变量冲突 指令中使用的Vi变量相同 具体有3种形式 即左同名 右同名 上右下左同名 冲突 A B C A B C A B CA D ED B EB D E相关 A B CD A E 4 CRAY 1分析指令的3条策略无相关 无冲突 同时启动 有相关 无冲突 链接启动 有冲突 顺序执行 链接 前条指令结果不必送回存储器直接作为后条指令操作数 甚至可在前条指令完成之前就使用其结果 5 计算向量程序执行时间工具 多流水线时空图 结合P391题6 6实例学习 3 冲突及其分类 6 3向量处理机的性能评价 P386 一共有4个性能指标 Tvp R n1 2 nv 6 3 1向量指令处理时间Tvp6 3 1 1单条向量指令执行时间 第9行开始 Tvp Ts Tvf n 1 Tc其中 Tvp 一条向量指令执行总时间Ts 配套标量指令的折算时间Tvf 流水线流过时间 即计算第一个分量所需时间n 向量中包含的分量数Tc 流水线 瓶颈 段时间 Tc max ti 注 该公式仅比标量流水线时间公式Tk k n 1 max ti 多了一项 辅助标量指令折算时间 Ts而已 参见P286公式5 22 6 3 1 2不使用链接技术的指令组时间 第18行开始 指令之间不论是存在冲突还是相关关系 都不能编入同一编队 编队 几条能在一个时钟内一起开始执行的向量指令称为一个编队 例6 4 6 5对下列指令组编队 并求出每个编队的开始 获得第一个分量结果 获得最后一个分量结果的时间 参见P387表6 4 但是与下面推导数据有出入 LVV1 RxMULTSVV2 F0 V1LVV3 RyADDVV4 V2 V3SVRy V4编队 由于指令1与2之间关于V1相关 指令3与4之间关于V3相关 指令4与5之间关于V4相关 所以它们必须分在不同的编队 结果如下编队1 指令1编队2 指令2 指令3编队3 指令4编队4 指令5 不使用链接技术的时空图与各编队时间访存12段指令1指令3指令5乘法7段指令2加法6段指令412n 112n 16n 112n 1时间 6 3 1 3使用链接技术的指令组时间 P388第13行开始 指令之间只有存在冲突关系时 才不能编入同一编队 相关指令可通过链接技术编入同一编队 例6 7指令组同例6 4 因使用链接技术 编队结果与之不同 即指令1与2链接在同一编队 指令3与1冲突要分开 指令3与4链接在同一编队 指令5与3冲突要分开 结果如下LVV1 RxMULTSVV2 F0 V1编队1 指令1 指令2LVV3 RyADDVV4 V2 V3编队2 指令3 指令4SVRy V4编队3 指令5 使用链接技术的时空图与各编队时间 设n 64 即不分段 访存12段指令1指令3指令5乘法7段指令2加法6段指令4127n 1126n 112n 1时间总时间 3n 46 6 3 1 4考虑分段开采的指令组时间 P387倒数第15行开始 说明 当向量长度超过寄存器组长度时 需要采用分段开采的算法 每段长度等于寄存器组长度 指令组执行总时间如下其中 Tn 指令组执行总时间n 向量中包含的分量数MVL 寄存器组长度 CRRY 1为64 Tloop 配套标量指令的折算时间 即前面公式中的TsTstart 流水线流过时间 即前面公式中的TvfTchime 编队数 注 这是一个近似公式 CRAY 1机器的Tloop 15 例6 7指令组同例6 4 因使用链接技术 编队结果与之不同 即指令1与2链接在同一编队 指令3与1冲突要分开 指令3与4链接在同一编队 指令5与3冲突要分开 结果如下LVV1 RxMULTSVV2 F0 V1编队1 指令1 指令2LVV3 RyADDVV4 V2 V3编队2 指令3 指令4SVRy V4编队3 指令5不论向量长度是否大于寄存器组长度 均可代入分段开采时间公式 计算指令组执行总时间 此处Tchime 3 Tloop 15 Tstart 12 7 12 6 12 49 MVL 64 注意公式法得数与图解法的得数不完全相同 R 表示当向量长度为无穷大时的向量流水线的最大性能 单位为MFLOPS 6 3 2最大性能R 它是向量流水线性能达到R 的1 2时对应的向量长度 6 3 3半性能向量长度n1 2 它表示向量流水方式的工作速度优于标量串行方式工作时所需的向量长度临界值 6 3 4临界长度nv 本章小结 1 向量流水处理机特点 2 冲突及其分类 3 CRAY 1分析指令的3条策略 4 链接方式 5 启动 输出延迟 各1拍 习题 P391 题6 注意阅读P372倒数第9行 倒数第6行 7 10 题9 选做 附录1第六章参考答案 P391 题6 6 注意阅读P372倒数第9行 倒数第6行 解 已知n 32 k加 6 k乘 7 k访存 6 k倒数 14 启