NoC系统研究综述.pdf

2008年1月 第13卷 第1期 西 安 邮 电 学 院 学 报 JOURNAL OF XI AN UNIVERSITY OF POST AND TELECOMMUNICATIONS Jan12008 Vol113 No11 收稿日期 2007 03 13 基金项目 国家自然科学基金 90607008 作者简介 谭耀东 1979 男 湖南衡东人 西安邮电学院计算机系硕士研究生 刘有耀 1975 男 陕西西安人 西安电子科技大学微电子学院博士研究生 NoC系统研究综述 谭耀东1 刘有耀2 1 西安邮电学院 计算机系 陕西 西安 710121 2 西安电子科技大学 微电子学院 陕西 西安 710071 摘要 片上网络 NoC 是实现片上系统 SoC 互连的一种新的范例 关键是为了解决SoC内部组件之间的通信调度 等问题而提出来的 受到了工业界和学术界的广泛重视 NoC研究涉及从系统建模到具体实现流程的一系列问 题 本文主要讨论NoC研究中的关键问题 解决方案 当前的研究成果以及展望 关键词 片上网络 片上系统 拓扑 路由 交换技术 中图分类号 TN47 文献标识码 A 文章编号 1007 3264 2008 01 0005 05 引言 片上系统 SoC System On Chip 是20世纪 90年代后期提出来的 随着半导体工艺的进步和 SoC技术的不断完善 现在的SoC中可包含一个或 多个处理器 存储器 模拟电路 数模混合电路以及 片上可编程逻辑等知识产权核 IP Core Intellectual Property Core 1 但是 随着SoC中所包含的IP 核数目增至成千上万的时候 现有的以总线结构为 通信基础的SoC技术面临着在性能 功耗 延时和 可靠性等方面的巨大挑战 2 在2001年左右 一些 研究机构借鉴和吸收了通信网络中的一些思想 提 出了以通信为核心的复杂SoC的IP核的集成方法 即片上网络 NoC Network on Chip 以解决 复杂SoC面临的各种问题 NoC概念采用基于包 交换的方法和分层方法来替代原先的传统总线 实 现了处理单元 IP 核 与通信结构 网络 的分 离 3 4 从2001年开始至今 世界上有近90家研 究机构对NoC各个层次问题进行了研究 国外比较 著名的有KTH Bologna大学 Stanford大学 Philips 公司 STMicroelectronics公司 Arteris公司等 国内 研究刚刚起步 主要有合肥工业大学 清华大学等 NoC研究涉及到从物理设计到体系结构 操作系 统 应用服务 设计方法和工具等诸多方面 从系统 结构角度看 NoC研究的重点在于NoC的拓扑结 构 NoC协议 NoC服务质量 NoC的定时和低功耗 等问题 5 9 本文将对目前NoC研究中涉及到的 一些关键问题和研究成果做一简单总结介绍和评 价 1 NoC关键问题 1 1 网络拓扑问题 选择合适的NoC拓扑结构是NoC设计中非常 关键的问题之一 目前 大部分的NoC研究和设计 借鉴了并行计算机体系结构中的静态网络结构 包 含规则和不规则两种结构 常见规则结构如2D mesh结构 3D mesh结构 Torus结构 扁平树结 构 环形结构等 多家研究机构采用了2D mesh 或者其变形的Torus结构为网络的拓扑结构 不规 则的结构是由规则结构组合而成的 2 7 9 10 NoC 拓扑结构对网络延迟 吞吐量 面积 容错 功耗有很 大影响外 对设计策略和内核到网络节点的映射起 着重要的作用 1 2 路由问题 区别于总线结构的NoC的一个重要特征就是 采用包交换的路由 路由是确定一个信息从源节点 到目的节点的机制 路由算法应该有效地解决死 锁 活锁以及饥饿问题 1 死锁 当两个包彼此等待路由转发时 由于 保留了部分资源并等待对方释放资源 因此产生死 锁 通过流量控制可以避免死锁 2 活锁 当一个包在它的目的地环绕但无法到 达目的节点时就发生了活锁 该问题存在于非最短 路由算法中 确定性XY路由和自适应DyAD路由 在NoC的设计中既不会产生死锁 也不会产生活 锁 11 12 3 饥饿 使用不同优先级可能出现高优先级的 包始终占有资源 而一些低优先级的包永远不能到 达其目的地 发生饥饿现象 使用公平路由算法或 为低优先级的包预留一些资源可避免饥饿现象 1 3 交换技术问题 交换技术决定交换结点什么时间如何连接其输 入与输出端口 主要有包交换和电路交换 1 电路交换 交换网络是一组由全双工点到点 链路连接在一起的交换单元 包括Crossbar 单级交 换网络和多级交换网络 交换的方法分为时分 T 和空分 S 两种 其中采用T S T结构的电路交 换被认为是NoC电路交换很好的实现 22 2 包交换 在包交换时 发送数据前不需要建 立链路 包通过最优路由算法原则 选择最优路径 到其目的地 目前主要的包交换技术有存储转发 虚直通和蠕动等交换技术 23 1 4 QoS问题 NoC服务应该具有高吞吐量 低延迟 低功耗 等特点 协商是指在IP核需求的服务与网络提供 的现有服务之间实现平衡 服务质量分为 尽最大 努力服务 BE 和保证服务 GS 它们提供不同层 次的许诺服务 并且对通信行为有潜在的影响 保 证服务具有可预测性 用于期望服务质量高的业务 例如实时系统 尽最大努力服务则能提高平均资源 利用率 8 15 1 5 流量控制问题 在NoC领域 流量控制被特定用于交换结点 间 端到端之间的传输协议的业务量 通过避免缓 冲区溢出及丢包 这些协议提供了平滑通讯量的策 略 目前大多数NoC采用的是虚通道或者限制数 据包注入网络速度的方法 15 然而通过限制注入网 络包的方式进行流量控制限制了网络中同时传输包 的数量 虚通道流量控制增加了硬件开销 1 6 资源网络接口问题 资源网络接口 RNI 是IP核与网络间的接口 通过RNI接口IP核可以用最小的代价使用网络 同时IP核和网络资源都可以重用 RNI在功能上 可以分为两个部分 一部分是连接网络的部分 与资 源 IP 核 无关 另外一部分连接到IP核 前一部 分因为和IP核无关 因此对于任何IP核都可以重 用 和IP核相关的部分连接具体的IP核的信号例 如控制信号 地址信号 主要是信号的打包和解包 数据的编码检测等信息 这部分还要考虑定时 同步 等问题 6 1 7 性能评估问题 为了比较不同结构的NoC结构 必须使用一套 标准的性能评价测量 评估一个NoC的主要性能 包括以下几个方面 1 吞吐率 数字通信网的性能是以每秒多少比 特数的带宽来衡量的 在NoC中 以单位时间内数 据包信息通过网络的数量定义吞吐量 2 延迟 指在NoC从源节点发送数据包头部 信息开始 到目标节点接受数据包尾部信息为止所 经历的时间 以时钟周期为单位 流控单元 Flit 从源节点到达目标节点 必须经过由交换节点和网 络互连所组成的一条路径 每一个信息根据源节点 和目标节点以及路由算法 会产生不同的延时 3 面积 评价NoC的面积主要有三个部分 一 是实现路由和流量控制所需要的存储缓冲区和逻辑 电路占用的面积 二是为了保证互连线延时不超过 一个时钟周期而插入中继 buffer 所占用的面积 三是芯片中布线对面积也有影响 4 功耗 NoC动态功耗主要有两个来源 节点 功耗和网络功耗 每一个节点内部的操作产生节点 功耗 网络功耗是指当包在网络上传输时 互连线 和每个交换节点内部逻辑门的功耗 因此 当我们 估计网络功耗时 需要计算线和逻辑门的功耗 1 8 映射问题 映射是在给定任务图 设计约束 延迟和功耗 等 和IP库的基础上 将每个任务分配到合适的IP 核上以及安排每个IP核上的任务执行顺序 然后再 决定每个IP核在NoC拓扑结构中的位置 在映射 时 搜索空间随着网络尺寸的增长呈阶乘递增 因 此 映射问题是NoC设计中的一个NP问题 4 目 前 映射可以采用启发式的算法进行 16 6 西 安 邮 电 学 院 学 报 2008年1月 2 NoC研究成果 不同的研究机构对NoC的研究重点不同 其中 一些著名研究机构的研究成果代表了NoC研究水 平和现状 麻省理工学院的RAW处理器 属于一 种基本的NoC RAW用全双工的连接实现可编程 路由器和计算资源之间的通信 RAW的主要应用 是作为一个超级计算机进行多媒体处理 17 以下对 一些具有代表性的工程作简要叙述和评价 2 1 Nostrum工程 Nostrum是一个被瑞典KTH研发的NoC体系 结构 它主要研究从物理层到应用层的通信问题 Nostrum是通过将每个路由节点连接到另外四个路 由节点而形成一个规则的2D mesh拓扑结构 一 个IP核连接到一个路由节点 交换网络采用了同 频不同相的伪同步时钟 每个IP核使用不同甚至任 意的时钟实现 Nostrum网络采用了自适应反射路 由策略和很小的缓冲避免了拥塞并具有自适应容错 能力 采用保留通信资源来提供保证延迟的流量并 提供尽最大努力流量 该研究组正在研究NoC的 协议 映射技术 时钟策略 他们研究网络处理器和 多媒体应用的NoC平台 用Nostrum仿真环境 NNSE来配置Nostrum网络的节点数量 拓扑结构 路由策略 流量模式等进行仿真 仿真结果可以采用 不同的图形方式显示 18 19 2 2 XPipes工程 XPipes是由意大利Bologna大学和美国Stan2 ford大学联合研发的一个可综合的 高性能的NoC 通过对路由节点 通信链路和网络接口的配置可以 得到任意的拓扑结构 采用了蠕动交换技术和确定 性源路由的静态路由算法 网络接口采用OCP2 0 Open Core Protocol 2 0 协议 支持网络和IP核不 同的时钟 链路可以分级产生流水线 SUNMAP 工具是根据应用需求自动选择最佳拓扑结构 并根 据约束条件和IP核之间的流量模型映射IP核到选 定的拓扑结构并选路由策略 进行配置XpipesCom2 piler工具 XpipesCompiler工具自动根据元件库中 的元件和输入的拓扑结构 路由策略等实现一个定 制的NoC 输出一个SystemC的NoC设计 他们对 mesh结构的MPEG4解码器和定制结构的MPEG4 解码器面积和功耗进行了分析比较 20 2 3 ASE thereal工程 ASE THEREAL是由荷兰Philips公司研发的 具有保证服务并提供尽最大努力服务的NoC 保 证服务满足关键性的流量 尽最大努力服务提供非 关键性的通信 ASE THEREAL网络使用无竞争 的路由策略和流水线时分复用电路交换技术来实现 保证服务 尽最大努力服务使用源路由方式 避免 了死锁 使用了由GS路由器和BE路由器并行组 成的GSBE路由器 路由节点的交换是可配置的 BE路由器有较低的优先级 它使用GS路由器没有 使用的链路或带宽 GSBE路由器可以采用分布式 和集中编程方式进行时隙分配 它用BE包建立和 撤除GS连接 两种编程模式撤销时隙分配是相同 的 仅仅是编程模式不同 ASE THEREAL路由器 具有32位6个双向端口 每端口24字深的输入BE 队列 该NoC的设计和验证使用了形式化方 法 21 2 4 CHAIN工程 CHAIN CHip Area INterconnect 是由英国 Manchester大学研发的使用握手信号进行数据交换 的自定时NoC 它使用了细粒度流水线的链路 通 过将发送信息的交换网络和响应信息的交换网络分 成两个独立的网络来保证源节点和目的节点的耦合 度最小 网络采用存储转发的包交换技术和分布式 路由策略 他们开发了包括CHAINdesignerTM CHAINcompilerTM和CHAINlibraryTM的CHAIN2 works工具来开发CHAIN CHAINdesignerTM可以 根据设计者的要求自动或手工产生拓扑结构并产生 一个Verilog或SystemC的仿真模型 仿真激励和具 有约束的结构网表 CHAINcompiler用具有约束的 结构网表和CHAINlibraryTM中的元件来产生适合 SoC设计的结构化网表 可以输入到传统的逻辑综 合工具并映射到标准单元上 CHAINcompilerTM也 可以生成静态时序分析脚本 CHAINlibraryTM是一 个包括自定时元件和模块的互连元件库 CHAIN2 works是一个商用开发工具 22 2 5 SPIN工程 SPIN Scalable Programmable Integrated Net2 work 是由法国Pierre et Marie Curie 大学研发的通 用可扩展SoC互连微网络 它使用蠕动交换技术 自适应路由策略 基于信用的流控机制和胖树拓扑 结构 这种拓扑结构产生无阻塞网络交换并且性能 不随系统的变化而变化 通信链路由流控信号 奇 偶校验位 错误诊断位和32位数据位组成36位的 数据宽度 他们开发了基于周期精确的CASS Cy2 cle Accurate System Simulator 模拟器来评估和比 7 第1期谭耀东等 NoC系统研究综述 较通信结构 在CASS中 用例化元件和定义互连 网络的结构化VHDL文件指定系统结构 CASS模 拟模型是通过可综合的VHDL模型而得到的 因 此 模拟模型是周期精确和位精确的 23 2 6 SoCBUS工程 SoCBUS是由瑞典Link pings大学研发的NoC 网络结构 是一个用于硬实时系统的片内通信网络 典型的应用是无线通信的基带处理和通信基础设 施 SoCBUS采用包连接的电路 packet connected circuit 交换方式 实际上就是利用包交换的方式 让一个数据包寻找路由 如果成功 则保持所走过的 路径 作为电路交换的路径设置 如果不成功 则可 以重发 这个交换方式的优点是没有死锁 不要缓 冲器 缺点是数据包的重发会导致延迟和不确定性 SoCBUS采用2D mesh拓扑结构 可以根据应用 来增加或删除路由器和链路来优化网络拓扑结构 用C 实现了一个基于事件的高速NoC模拟器 模拟器的输入是用XML表示的流量和网络模型 它们正在研究用FPGA实现SoCBUS 24 3 结论 本文在系统分析研究相关文献的基础上 总结 了NoC研究的关键问题和典型的研究成果 限于 篇幅 仅给出了NoC的一般概念以及NoC的几个 主要研究问题 包括拓扑结构 路由策略 交换技术 流量控制 服务质量 性能评估 映射和定时等问题 它们是NoC设计过程中必需考虑的问题 有些问题 已得到很好的解决 有些问题有待于进一步研究 在具体实现一个NoC的时候 从物理层到应用层 从软件到硬件 NoC涉及的各个方面远远多于本文 所讨论的问题 NoC研究在过去几年内得到了迅 速的发展 在近两年内更是出现了商品化的NoC 从研究成果看 NoC的基础研究比较成熟 出现了 一些NoC产品 今后 对NoC的研究将会更加针 对于实际应用 如面向无线通信 图像处理和多媒体 应用的NoC研究是未来研究的主要热点 面向应 用的NoC应具有可升级 可靠性等特点 因此 还需 要在以下几个方面进行深入的研究 1 研究针对具体应用的映射方法 不同的应 用 所选择网络拓扑结构 IP核不同 需要研究特定 的映射方法 映射方法影响NoC的功耗和性能 2 研究具有容错能力的交换网络 考虑到纳 米级的物理效应 漏电流 场效应会造成信号 逻辑 值 器件和连线瞬时或永久的失效 为此对于大规 模的交换阵列 考虑采用容错技术 3 研究具有重构和自重构能力的交换单元电 路和交换网络 使得应用系统在设计时能适应协 议 标准和应用的变化 而在运行时又能适应运行条 件的变化 参 考 文 献 1 L Benini and G De Micheli Powering networks on chips energy efficient and reliable interconnect design for SoCs J Proc the 14th Int Symp on System Synthesis 2001 33 38 2 W Dally and B Towles Route packets not wires on chip interconnection networks J Proc the Design Automation Conference Las Vegas NV 2001 684 689 3 J Hu and R Marculescu Energy and performance aware mapping for regular NoC architectures J IEEE Trans on Computer Aided Design of Integrated Cir2 cuits and Systems vol 24 no 4 April 2005 551 562 4 Umit Y Ogras Jingcao Hu and Radu Marculescu Key resarch problems in NoC design A holistic perspective J Proceedings of the International Conference on Hardware softwareCodesignandSystemSynthesis 2005 6 5 W J Dally B Towles Principles and Practices of In2 terconnection Networks M Morgan Kaufmann 2004 6 Tobias Bjerregaard and Shankar Mahadevan A survey of research and practices of Network on Chip J ACM Computing Surveys 2006 38 1 1 54 7 Shashi Kumar Axel Jantsch Juha Pekka Soininen et al A network on chip architecture and design methodol2 ogy J in Proc Int s Symp VLSI ISVLSI 2002 117 124 8 E Bolotin I Cidon R Ginosar and A Kolodny QNoC QoS architecture and design process for network on chip J Journal of Systems Architecture special is2 sue on Network on Chip 50 February 2004 105 128 9 T Ahonen D S Tortosa and J Nurmi Topology optimization for application specific networks on chip J In Proc 6th International Workshop on Sys2 tem LevelInterconnectPrediction Paris France 2004 8 10 P P Pande C Grecu A Ivanov R Saleh Switch based interconnect architecture for future systems on 8 西 安 邮 电 学 院 学 报 2008年1月 chip J In Proc SPIE VLSI Circuits and Systems vol 5117 2003 228 237 11 M Dehyadgari M Nickray A Afzali kusha et al Evaluation of Pseudo Adaptive XY Routing Using an Object Oriented Model for NoC J The 17th Interna2 tional Conference on Microelectronics 13 15 December 2005 204 208 12 J Hu and R Marculescu DyAD smart routing for Networks on Chip J in Proc 41 st ACM IEEE Design Automation Conf San Diego CA 2004 260 263 13 P Guerrier and A Greiner A scalable architecture for system on chip interconnections J in Proc Sophia Antipolis Forum on MicroElectronics SAME Sophia Antipolis France 1999 90 93 14 T Ye L Benini and G De Micheli Packetization and routing analysis of on chip multiprocessor networks J Journal of Systems Architecture vol 50 2 3 2004 81 104 15 Theodore Marescaux Anders Rangevall Vincent Nol2 let et al Distributed congestion control for packet switched networks on chip J In Parallel Computing Conference ParCo 05 Proceedings Malaga Spain September 2005 760 768 16 Ch Ykman Couvreur V Nollet Th Marescaux E Brockmeyer Fr Catthoor and H Corporaal Pare2 to based application specification for MP SoC cus2 tomized run time management J In Proceedings of the International Conference on Embedded Computer Systems Architectures Modeling andSimulation SAMOS Samos Greece July 2006 78 84 17 M B Taylor J Kim J Miller et al The Raw Mi2 croprocessor A Computational Fabric for Software Cir2 cuits and General Purpose Programs J IEEE Micro Mar 2002 25 35 18 Zhonghai Lu Rikard Thid Mikael Millberg et al NNSE Nostrum Network on Chip simulation envi2 ronment J In Swedish System on Chip Conference SSoCC 03 April 2005 1 4 19 Mikael Millberg Erland