（电路与系统专业论文）片上网络容错结构的研究与设计.pdf

东南大学学位论文独创性声明 l ni n i lrlll y 17 5 3 本人声明所呈交的学位论文是我个人在导师指导下进行的研究工作砭取得 的研究成果。尽我所知，除了文中特别加以标注和致谢的地方外，论文中不包含 其他人已经发表或撰写过的研究成果，也不包含为获得东南大学或其它教育机构 的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均 已在论文中作了明确的说明并表示了谢意。 研究生签名：立重查日期：砬坦：! = 8 东南大学学位论文使用授权声明 东南大学、中国科学技术信息研究所、国家图书馆有权保留本人所送交学位 论文的复印件和电子文档，可以采用影印、缩印或其他复制手段保存论文。本人 电子文档的内容和纸质论文的内容相一致。除在保密期内的保密论文外，允许论 文被查阅和借阅，可以公布( 包括刊登) 论文的全部或部分内容。论文的公布( 包 括刊登) 授权东南大学研究生院办理。 研究生签名：冱量盏导师签名： 、o - ； 日 摘要 摘要 片上网络( n e t w o r ko nc h i p , n o c ) 采用基于交换韵通信方式和全局异步局部同步技术，从体系 结构上解决片上系统s o c 设计遇到的问题。在深证微米( d e e p s u bm i c r o n ，d s m ) 工艺下，芯片对 噪声更加敏感，因此，通信的可靠性是片上网络研究领域的一个重要分支。 本文研究片上网络中的容错机制，重点研究了瞬时错误的容忍机制。瞬时错误主要在数据链路 层和网络传输层进行处理。本文设计了两种n o c 数据链路层的容错机制即低延迟型和面积节省型 并将这两种机制分别应用在n o c 的端到端和交换到交换容错方案中，结合h a m m i n g 、d a p 和b s c 码等三种纠错码，共分析研究了n o c 的6 种容错方案，并给出了相应的分析结果。 本文设计的容错方案在h e r m e sn o c 得到了应用，并在x i l i n xv i r t e x - 4f p g a 上进行了验证，同 时还采用e d a 综合工具分析比较了几种容错机制的面积、延迟和功耗开销。结果表明面积节省型 比低延迟型的交换到交换更节省面积的开销，d a p 码面积和功耗开销最小，而重传方案则具有更好 的容错性能。研究结果对合理选择n o c 的容错机制具有一定的意义和实用价值。 关键词：n o c ；可靠性；容错；d s m ；h e r m e sf p g a ：f e c ：a r q a b s t r a c t a bs t r a c t n o c ，n e t w o r ko nc h i pw h i c ha d o p t sc o m m u n i c a t i o n - b a s e de x c h a n g ea n dt h eg l o b a la s y n c h r o n o u s l o c a ls y n c h r o n o u st e c h n o l o g y , i saf e a s i b l es o l u t i o nt oh a n d l et h ep r o b l e mt h a ts y s t e mo nc h i p s o cf r o m a r c h i t e c t u r e w i mt h es h r i n ko ft h et e c h n o l o g yi n t od e e p s u bm i c r o n ，c h i p sb e c o m e m o r es e n s i t i v et on o i s e t h r e f o r e ，c o m m u n i c a t i o nr e l i a b i l i t yi s s u e sw i l lb ea ni m p o r t a n tb r a n c ho f n o c r e s e a r c hf i e l d s t h i sp a p e rs t u d i e so nt h ef a u l t - t o l e r a n tm e c h a n i s m si nn e t w o r ko nc h i p ，e s p e c i a l l yo nt h et r a n s i e n t e r r o rt o l e r a n c em e c h a n i s m s t r a n s i e n te r r o r sa l em a i n l yp r o c e s s e da td a t al i n kl a y e ra n dn e t w o r k t r a n s p o r t l a y e r i nt h i sp a p e r , w ed e s i g nt w ok i n d so ff a u l t t o l e r a n tm e c h a n i s m so nt h ed a t al i n kl a y e r , t h a ti s l o w d e l a ya n dl o w a r e am e c h a n i s m s ，w h i c hw ea p p l yt on o ce n dt o e n da n ds w i t c h t o - s w i t c h f a u l t t o l e r a n ts c h e m e s c o m b i n e dw i t hh a m m i n g ，d a p , b s ct h r e ek i n d so fe r r o r - c o r r e c t i n gc o d e s ，t h i s p a p e rt o t a l l ya n a l y z e ss i xk i n d so f n o c f a u l t - t o l e r a n tm e c h a n i s m s ，a n dg i v e st h ec o r r e s p o n d i n gr e s u l t s t h ef a u l t - t o l e r a n tm e c h a n i s m sa sd e s i g n e di sa p p l i e df o rt h eh e r m e sn o cp l a t f o r ma n dv a l i d a t e d b a s e do nx i l i n xv i r t e x - 4f p g a m e a n w h i l e ，i tm a k e sac o m p a r i s o nt h ec h i pa r e a ，t h ed e l a yt i m ea n d p o w e rc o n s u m p t i o no fs e v e r a lk i n d so ff a u l t - t o l e r a n tm e c h a n i s m su s i n gt h ee d at o o ld e s i g nc o m p i l e r t h ec o n c l u s i o ns h o w st h a tt h el o w a r e as w i t c h - t o s w i t c hm e c h a n i s m sh a sal o w e re x p e n s ec o m p a r e dw i m l o w 1 a t e n c ys w i t c h t o s w i t c h ，a n dd a pc o d e - t y p eh a st h el e a s tc h i pa r e aa n dp o w e rc o n s u m p t i o n w h i l e r e t r a n s m i s s i o ns c h m e sh a v eam u c hb e t t e rf a u l t t o l e r a n c ep e r f o r m a n c e t h er e s u l th a sac e r t a i nm e a n i n g a n d p r a c t i c a lv a l u ef o rr a t i o n a lc h o i c eo f n o cf a u l t - t o l e r a n tm e c h a n i s m s k e y w o r d s ：n o c ；r e l i a b i l i t y ；f a u l t - t o l e r a n t ；d s m ；h e r m e s ；f p g a ；f e c ；a r q i l l 目录 目录 摘要：- i a b s t r a c t i i i 目看乏1 第1 章引言1 1 1 课题背景和研究意义矗1 1 2 片上网络国内外研究动态2 1 3 论文结构和内容安排3 第2 章片上网络概述5 2 1 m p s o c 和n o c 5 2 2 片上网络基础理论体系7 2 3 片上网络体系结构8 2 3 1 通信基础设施8 2 3 2 拓扑结构l o 2 3 3 交换技术1 2 2 - 3 4 路由算法1 2 2 4 本章小结。1 3 第3 章片上网络容错机制概述1 5 3 1 深亚微米错误1 5 3 2n o c 的容错概念1 6 3 3 传统差错控制方法1 7 3 4n o c 中瞬时错误容忍机制研究。1 7 3 4 1 数据链路层容错机制1 8 3 4 2 网络，传输层容错机制。2 1 3 5 永久性错误容错算法2 3 3 6 容错机制性能评估指标2 4 3 7 本章小结2 4 第4 章基于h e r m e s 的片上网络容错机制的设计2 5 4 1 h e r m e s 片上网络简介一2 5 4 1 1h e r m e s 协议栈2 5 4 1 2h e r m e s 数据包格式2 6 4 1 3h e r m e s 交换器2 7 4 1 4h e r m e sn o c 功能验证31 4 2 基于h e r m e s 片上网络容错机制的设计3 2 i 目录 4 2 1 端一端与交换一交换机制3 2 4 2 2 容错机制中的码型选择_ 3 4 4 2 3 基于h e r m e s 的重传方案。3 6 4 3 本章小结3 6 第5 章n o c 容错机制的f p g a 验证= 3 9 5 1 f p g a 设计方法介绍3 9 5 2 设计约束：一4 1 5 3 h e r m e sn o c 的原型验证4 3 5 4 h e r m e sn o c 的容错机制验证4 4 5 5 结果分析4 5 5 6 本章小结。4 6 第6 章总结与展望4 7 6 1 本文工作总结。4 7 6 2 待进一步解决问题。4 7 参考文献5l 作者攻读硕士学位期间发表的文章 5 5 2 第1 章引言 1 1 课题背景和研究意义 第1 章引言 信息产业的飞速发展，带来了国民经济和社会发展信息化，营造了一个难得的市场和产业环境。 集成电路作为电子工业甚至整个信息产业的基础，呈现出快速发展的态势。集成电路工业发展过程 中，由于半导体以及集成电路技术的迅速发展，引发了以微细加工为主要特征的多种工艺及工艺集 成技术和面向应用的片上系统级芯片的进一步发展，未来芯片的特征尺寸越来越小，电路集成度越 来越高，功能也越来越复杂。据i t r s ( i n t e r n a t i o n a lt e c h n o l o g yr o a d m a pf o rs e m i c o n d u c t o r s ，国际半 导体技术指南) 组织声称，在未来的1 0 1 5 年内，人们可以设计特征尺寸大概为5 0 n m 、时钟主频可 达1 0 g h z 、具有几十亿只晶体管的芯片f 1 1 。深亚微米效应，使得设计保持时序收敛更加困难。制造 工艺和设计能力之间的差距不断扩大。未来微电子行业的发展瓶颈已不是工艺而是设计，未来的竞 争主要是设计的竞争。 以软硬件协同设计，基于知识产权核( i p 核) 复用的s o c ( s y s t e mo nc h i p ) 设计技术解决了通 信、计算、消费电子( 3 c ) 等领域的众多挑战性难题，该技术已成为超大规模集成电路主流和发展 趋势。目前，s o c 系统设计方法主要有三种：基于i p 核的设计方法、基于模块的设计方法( b l a c k - b a s e d d e s i g n ，b b d ) 以及基于平台的设计( p l a t f o r m b a s e dd e s i g n ，p b d ) 方法。这些s o c 设计方法的共同 特点是坤模块间都是基于总线方式互连的。这种互连方式可以满足现有嵌入式系统的s o c 设计需求， 但是随着电路规模的扩大，总线结构的可扩展性和可重用性差成为芯片设计的瓶颈。总线能有效地 连接多个通讯方，但地址资源总是有限的。并且传统总线结构的时间资源利用率很低，一条总线无 法支持一对以上的用户同时通讯。此外，随着工艺特征尺寸越来越小，工作频率迅速上升，片上互 连线造成的延时将严重影响要求全局同步总线的时钟树的设计。同时庞大的时钟网络将消耗芯片总 功耗的大部分。因此单一系统时钟同步全芯片的工作将极其困难。 可重用性一直都是弥补工艺设计差距的主要途径，其优越性在于以基于模块的设计，搭建整个 系统，减少了单独开发每个部件的设计时间，同时减少了人为设计的出错率，因此降低了系统的设 计和验证时间。从品体管开始发展至t lf l 、算术运算单元( a r i t h m e t i cl o g i c a lu n i t ，a l u ) 及乘法器等 功能模块，一直到微处理器和d s p 核，作为基本模块的构件变得越来越复杂。设计者需要利用更高 级别的抽象模型来完成系统设计。与以往不同，通信部件不再作为系统设计的附属存在，而是从计 算独立出来，和i p 单元一样成为基本逻辑单元，成为可重用的通信服务。 于是有关专家提出了片上网络的概念，片上网络利用通信部件的可重用技术，将不同资源单元 之间的路由连接通过规则的通信部件进行连接，为深亚微米技术带来的问题提供了解决方案。片上 网络最初用于研究s o c 通信部分的系统级设计方法。随着技术的迅猛发展，研究就设计到从物理设 计到体系结构、操作系统以及应用等各个层面。目前，n o c 的概念很宽泛，包括硬件通信结构、中 间件、操作系统通信服务以及设计方法和工具等。n o c 借鉴并行计算机互连网络，将其应用到传统 s o c 设计中，从本质上解决了多i p 核模块体系结构中的问题，是更高层次、更大规模的片上系统， 是片上的网络系统。 1 东南人学硕士学位论文 n o c 为各种部件之间的通信提供预定义的服务质量，包括带宽、延迟、可靠性等，并借鉴了计 算机网络和多处理器网络的技术。由于片上网络自身特点，比如n o c 网络环境相对稳定、芯片集成 度不断提高使片上故障更容易出现、片上面积限制和低功耗要求、片上没有功能强大的专用路由交 换设备而要求协议复杂度不能过高等，使之与传统网络有很大的不同。当前，多核片上系统 ，( m u l t i - p r o c e s s o rs y s t e mo nc h i p ，m p s o c ) 逐渐应用于各个领域，如工业生产、卫星通信、医疗保 健、航空航天、信息安全及消费类电子产品人们日常生活使用的各种电子设备，它能否高效节能的 正确处理数据相当重要。而互连传输部件能否为其准确高效的传输数据就是保证其正确处理数据的 基础，因而传输的可靠性是片上服务质量中最重要的方面之一【2 】( 3 】。 虽然由于片上网络环境相对固定，不会面i 晦人为破坏链路与路由器的问题，但在深亚微米和纳 米工艺条件下，芯片的低功耗设计要求使得设计人员采用降低供电电压，但这造成了工作电压的噪 声容限变低，降低了数据传输的可靠性。同时n o c 还会面临许多目前集成电路设计所面临的问题， 例如由于通道干扰，如串扰、耦合噪声、电源噪声，甚至是宇宙射线、地球磁场产生干扰导致瞬时 错误( 软错误) 增加，使片上线路的可靠性下降。目前学者们认为串扰已成为n o c 结构中网络层和 链路层错误的主要源泉【4 】。同样，路由节点也会因为片上处理器的错误而失效。而且晶体管的数量 不断增加，使永久性与瞬时性错误引起的信号、逻辑值和互连错误出现更加频繁【5 】。虽然传统网络 中已有很多标准化的诊断方法和容错测试方法，但仍不宜直接用于片上网络中，而在电路设计过程 中很难完全消除和避免这些错误或者代价非常昂贵，因此为片上网络设计适合的容错机制对于片上 系统的发展至关重要。 1 2 片上网络国内外研究动态 1 9 9 9 年片上网络提出之后，以多核处理器系统以及并行处理系统为代表的研究和开发成为国内 外工业界、学术界研究的热点。据初步统计，国际上共有3 0 多所大学、研究所以及工业界的研究单 位正积极从事n o c 的研究。国外的研究机构主要从系统结构、通信路由策略、物理布线的时钟策略、 可测试性分析等多方面对片上网络进行了系统研究，并取得了一定成果。其中影响较大的有瑞典斯 得哥尔摩皇家理工研究院、斯坦福大学和荷兰菲利普研究实验室等。参与研究的国家还有法国、意 大利、芬兰、希腊、以色列、巴西、印度，澳大利亚等。从2 0 0 1 年开始至今，世界上有近9 0 家研 究机构对n o c 各个层次问题进行了研究，比较有影响的n o c 项目有b o l o g a n s t a n f o r dx p i p 懿 6 1 ， p r i n c e t o no r i o n 7 ，u m a n c h e s t e rc h a i n t s j ，k t h v v tn o s m l i i l 【9 1 ，s t - n o c t m t l0 1 ，u p m cs p i n 1 i 】 等等。 瑞典皇家理工学院( k t h ) 和芬兰奥卢的v 兀电子，为开发大型复杂的s o c 联合研制了基于 网络分层通信的n o c - n o s 仉：吼，在通信协议上实现o s i ( o p e ns y s t e mi n t e r c o n n e c tr e f e r e n c e m o d e l ) 模型的物理层、数据链路层、网络层和传输层。k t h 在此基础上开发了n o s t r u m 仿真器， 用于支持不同o s i 模型层次的仿真。同时，用高层次抽象的应用模型被应用到n o s t r u m 片上网络中， 该抽象模型捕获任务、处理器资源之间的通信传输。 意大利b o l o g a n 所提x p i p e s 结构支持多核系统，d 核接e l 采用o c p i p 标准，链路可以通过流 水线提高互连速度。s t a n f o r d 的n o c 结构降低了互连延迟，提高了互连带宽，而面积的代价为6 6 t 2 1 。 2 第l 章引青 p h i l i p s 实验室研究的e t h e r e a ln o c 1 2 1 提供了带宽和服务质量的保证。所提n o c 可以为实时应用 提供吞吐量保障( g u a r a n t e e dt h r o u g h p u t ，g t ) 服务；同时为保障不丢失数据提供尽力( b e s t e f f o r t s ，b e ) 服务。 国外的研究机构在较早时间提出了n o c 的概念，经过将近1 0 年的研究和开发，建立起比较成 熟的关于片上网络的结构、设计方法。而国内在这方面的研究起步较晚，有关片上网络结构以及通 信协议还处于起步阶段，比较有名的是合肥工业大学、西北工业大学等。 合肥工业大学研究表明，n o c 的出现不但从本质上解决了多c p u 系统的体系结构问题，而且一 劳永逸的解决了长期困扰总线结构的难题全局时钟问题。随着工艺的提高和系统规模的增大， 进入纳米阶段后，i t r s 数据表明，5 0 r i m ：节点的时钟树将消耗3 3 。异步通讯机制是片上网络结构 的基本属性，庞大的时钟树将推出舞台。在很大程度上降低了系统的功耗。从总线角度分析，基于 路由技术的网络结构可以完成多任务、多进程的通信，各个节点的并行运算与节点间的并行通信实 现了真正意义上的并行操作【l 3 1 。 西北工业大学通过片上网络体系结构的研究，将模块化的测试方法应用到片上网络o s i 网络堆 栈参考模型中，引入了基于片上网络的模块化测试方法【1 4 】。在体系结构方面，结合可扩展的片上互 连网络和隐藏延迟的同时多线程结构，提出网络互连多线程( n e t w o r k e dm u l f i t h r e a d , n m t ) 处理器结构 【1 5 1 。在并行处理器应用方面，在传统网络性能模型基础上提出了片上网络功耗模型和时延模型，并 利用这两个模型分析了二维及多层m e s h 等网络结构中功耗时延的差别，在此基础上提出双路由器 多层m e s h ( d o u b l e r o u t e rh i e r a r c h i c a lm e s h ，d r h ) 的网络结构，将龙腾d n 应用程序映射到并行 d s p 处理器上【1 6 1 。 哈尔滨工业大学s o c 研究中心提出了片上网络低功耗自适应数据保护机制【1 7 】。根据不同片上网 络通信链路错误数目自适应选择，在路由节点之间进行数据保护的跳距，保证系统芯片功耗最优化。 数据从源到目的地的传输过程中，开始时采用功耗较小的端到端数据保护机制，同时检测通信链路 上发生的错误，当超过阂值范围时，则在该节点进行纠错，否则数据不进行纠错。在同样的可靠性 约束条件下，采用自适应数据保护，功耗低于节点到节点，端到端的数据保护。 目前，国内有国家自然科学基金、国家“9 7 3 ”重点基础研究发展规划项目支持n o c 的研究。 也有研究小组在从事n o c 方面的研究。但却没有全面的开展n o c 学术领域的前沿工作。n o c 作为 一个崭新的集成电路设计理论体系正处于初创阶段，这无疑为中国集成电路设计方法学的继续发展 又提供了一次很好的机遇。若能够更多的立项支持n o c 相关技术的研究工作，那么将会涌现更多的 创新成果。 1 3 论文结构和内容安排 本文针对片上网络的可靠性要求，对片上网络中出现的错误进行了归类，并主要研究了瞬时错 误的容忍机制。采用在数据链路层保持可靠性的方法，研究设计了基于h e r m e sn o c 的容错机制并 通过了f p g a 验证。 本文正文主要分为6 章。 第l 章是引言。简要介绍本课题的背景以及研究意义，国内外发展动态。 3 查堕查堂堡主兰篁丝茎 第2 章介绍片上网络的基本涵义以及基础研究体系，并主要介绍了其体系结构的相关概念，包 括拓扑结构、通信协议、交换技术以及路由算法等。 第3 章首先简介了深亚微米工艺下存在的错误并进行了分类；其次介绍了片上网络容错的概念； 然后对现有的容错机制做了归纳。 第4 章首先介绍了采用v h d l 代码编写的h e r m e sn o c 平台，然后设计了基于h e r m e s 的容错机 制，并选取了不同编码和差错控制方式，实现了f e c 和a r q 的容错机制。 第5 章主要采用x i l i n xv t r t e x - 4 f p g a 验证了所设计的容错方案。首先简要介绍了f p g a 设计的 相关知识，之后对h e r m e sn o c 进行了原型验证，再验证了几种基于h e r m e s 的容错机制。最后采用 综合工具d e s i g nc o m p i l e r 对电路进行了综合并比较了几种容错机制的面积延迟和功耗等。 第6 章对全文进行总结并提出进一步的研究任务和方向。 4 第2 章片j ：网络概述 第2 章片上网络概述 2 1 m p s o c 和n o c 随着摩尔定律的发展，在单一芯片中集成上亿晶体管已经成为现实。如何有效地利用数目众多 的晶体管是芯片体系结构必须回答的新问题。倘若继续遵循单核的发展思路，芯片设计将面临互连 延迟、存储带宽、功耗极限等性能提升的瓶颈问题。因此，业界提出了多核的体系架构来获得性能 增长和功耗下降这对看似矛盾的需求。m p s o c 通过将多个处理器核通过复杂的互连组成整个系统， 并集成在单一芯片上。利用i p 复用技术，m p s o c 能够实现对处理器、可编程器件、存储单元以及 i p 单元的集成。图2 1 是一个m p s o c 的结构实例。 h 本地总线 全局总线 图2 1m p s o c 系统结构 在上图结构中，通过总线桥电路使得多个处理器系统进行通讯，从而集成为m p s o c 。正是由于 多核片上系统充分的利用了口复用技术，所以在很大程度上，m p s o c 提高了设计效率，缩短了产 品上市时间，这是m p s o c 的基本特点。 多核能够用多个低频率核单元产生超过高频率单核的处理效能，获得较佳的性价比。多核架构 是吸纳了“分治法”战略，通过划分任务，使得s o c 并行处理任务，而在以前，这可能需要使用多 个处理器。m p s o c 更易扩展，并且能融入更强大的处理性能，这种架构所用的功耗更低。m p s o c 的出现使单芯片的计算能力得到进一步提高，然而要发挥这些强大的计算能力，还需要依赖通信架 构提供合适的传输带宽和通信效率。传统的片上互连机制一般使用共享总线结构或专用的互连结构。 已形成较有影响力的几种总线标准有c o r e c o n n e c t l l 引、a m b a 19 1 、w i s h b o n e 2 0 1 等。 目前，片上总线( o c b ) 仍然是应用较为成熟的s o c 互连架构，通过同时使用一条共享的通讯链 气 东南人学硕f ：学位论文 路。它具有两个显著优点：一是结构简单，能够为整体s o c 设计带来较低的硬件复杂度；二是相对 以前在板级使用总线进行设计的设计者而言，片上总线的概念和编程较简单。 然而随着s o c 在朝着多核化和异构化方向发展过程中，片上总线面临以下问题，从而成为了影 响s o c 性能的主要瓶颈： 第一，可扩展性：总线虽可以有效的链接多个通信方，但地址资源总是有限的，对“即插即用” 支持有限；并且传统总线结构的时间资源利用率很低，一条总线无法支持多个模块的突发请求和长 期、大数据量的信息交换，通信效率会显著下降。 第二，互连延迟：随着工艺特征尺寸越来越小，工作频率迅速上升，片上互连线造成的延迟将 严重影响要求全局同步总线的时钟树的设计。并存在时钟偏移和大量的串扰问题。 第三，全局同步：深亚微米( d e e ps u b - m i c r o n ，d s m ) 工艺所带来的物理效应，使得全局连线的 信号延迟决定了系统时钟周期，为保持甚至提高系统时钟频率，不得不对全局连线进行分布流水， 或采用局部同步全局异步( g l o b a l l ya s y n c h r o n o u sl o c a l l ys y n c h r o n o u s ，g a l s ) 的时钟模式。 第四，信号集成度：更低的电源电压以及更小的特征现款使得整个s o c 系统对电路中的噪声更 加敏感，而共享介质上的功能部件则进一步加重了噪声。 因此，基于总线的m p s o c 设计方法和工具将不能满足当今s o c 系统的通信需求，业界学者从 基于网络的角度来研究系统芯片的通信结构提出片上网络的概念。所谓片上网络，是指一个将计算、 存储和i o 等资源通过若于个交换器在芯片上进行互连的微型网络。一个典型n o c 的结构如图2 2 所示，主要有交换器( s w i t c h ) 、链路( l i n k ) 和网络接口( n i ，n e t w o r ki n t e r f a c e ) 组成，其中网络 接口负责i p 核与网络的链接，协调向从m 核传输包，交换器和链路则实现p 核的连接和通信。为 了处理n o c 链路长延迟问题，采用流水线( p i p e l i n e ) 结构设计链路。各个资源单元之间通过数据包 的形式进行网络通信，这是片上网络结构的基本特点。在不可靠的信号传输和线路延迟的限制下， 片上网络要求以最小能量消耗充分满足服务质量需求，并提供高性能和高可靠性保证。 图2 2 典型n o c 的结构 片上网络整个领域的研究还处在前期阶段，不同的研究机制和研究人员对片上网络有不同的定 义和理解，在学术界，片上网络的概念有狭义与广义之分。狭义来说，n o c 作为系统芯片s o c 的子 领域研究，它被严格的定义为个支持片上通信的数据转发框架，此情况下，片上网络就是 6 星! 雯苎：垦塑竺丝堕 o c n ( o n c h i p - n e t w o r k ) ，只研究片上互连网络特征，如片上的拓扑结构、路由算法、通信协议等。 广义的片上网络是s o c 的拓展，是更高层次、更大规模的片上系统，是片上的网络系统。片上网络。 技术的核心思想是将计算机网络技术移植到芯片设计中来，彻底解决s o c 的体系结构问题。本文基 于广义概念进行研究。 与现有的m p s o c 设计方法相比，片上网络技术具有如下几个特点：一是发送的是数据包而不是 单独的字节；二是若基于包交换的片上网络能够在发送方与接收方之间有效地提供多个通道，那么 在同一时刻可以有多个包被传送；三是通过网络方式，i p 模块可以被更规则地排列在片上。这些特 征可以带来预先确定、固定长度和固定电容负载的通信路径，使得串扰现象和时钟偏移问题可以被 控制。n o c 是在m p s o c 基础上发展起来的，并将具体的点对点、总线、分段总线的互连方式发展 到交换单元结构、网络结构中。n o c 使用网络设计的技术来分析和设计m p s o c ，将每个d 看做微 型网络的一个组件，通过一种微型网络层次结构来实现各个i p 的互连【2 。所谓微型网络层次结构实 际上是o s i 七层协议栈的一个延伸，可以较好地对s o c 互连的物理、逻辑以及功能特性进行抽象， 从而在未来的更大规模m p s o c 设计具有更好的可扩展性和灵活性。 2 2 片上网络基础理论体系 目前，n o c 技术在国际上已经有数年的发展历史，形成了n o c 基础理论体系。如图2 3 所示。 图2 3n o c 基础研究不恿图 体系结构研究n o c 的基本软、硬件结构，是当前学术界的研究重点，是理论阶段所关注的核心 问题。其中o c n 结构研究基础通讯架构；拓扑结构研究通讯系统的拓扑框架；通讯协议着眼于基础 架构汇总的高效通信；软件体系结构包括操作和并行应用软件；基础元件库相当于s o c 时代的i p 库，库元件包括s o c 、i p 等传统元件，也包括链路、接e l 、交换器等n o c 时代特有的元件；系统集 成和验证技术研究如何在上述基础上设计n o c 芯片。 基础设计技术涵盖了纳米工艺条件下芯片设计与实现的各种关键技术，如低功耗设计技术、可 7 东南大学硕：l 学位论文 制造性技术、信号完整性设计技术等。纳米设计技术是所有纳米芯片的共同课题，不是n o c 领域所 特有的。但由于n o c 技术的战略地位，纳米设计技术的各种难题将集中体现在n o c 的所有设计环 节中。 实现理论与工具是自动化设计过程中的各种工具及其算法研究，是产业阶段所需要研究的工作， 如通讯建模工具( 并行通讯模型建模、应用特征图建模等) 、综合工具( 拓扑结构综合、资源映射优 化等) 、仿真工具( 如系统级仿真) 等。 2 3 片上网络体系结构 n o c 可以定义为在单一芯片上实现的基于网络通讯的多处理器系统。它集成了多个具有特定功 能的s o c 或i p 模块，以及从物理底层到应用顶层的完整通讯网络。正如前一节所述，n o c 和s o c 的本质区别在于通讯机制不同。n o c 使用网络通讯的架构从体系结构上彻底解决了s o c 总线结构所 固有的三大问题：由于地址空间有限而引起的扩展性问题，由于分时通讯而引起的通讯效率问题， 以及由于全局同步而引起的功耗和面积问题。 值得注意的是，尽管n o c 集成电路中的s o c 及其网络与p c 机及其网络只是在体系结构上相通， 在理论体系和技术实现上还是有很大差别的。n o c 的连线资源较计算机网络远远丰富得多；流量分 布也不同于传统计算机网络的泊松分布；另外，n o c 中的计算节点多元化，从单一功能的口到整个 s o c 皆有可能；n o c 作为深亚微米甚至纳米工艺条件下的s o c 芯片，有着显著的低功耗需求。 2 3 1 通信基础设施 未来s o c 的片上通信结构的可靠性、低功耗、高性能设计将面临前所未有的挑战。互连技术将 成为复用操作的限制因素。图2 4 给出了s o c 中三种基本的互连通信结构。芯片发展最初阶段，芯 片规模较小，点对点专用链路相互之间不存在竞争现象，不需要复杂的仲裁机制( 见图( a ) ) ；随后 出现了传统经典的基于总线的主从设备、仲裁机制引出的互连机制，以及分级总线以满足不同速度 的总线要求，如a m b a 、w i s h b o n e 等( 见图( b ) ) ；近年来则发展至基于应用的片上网络的网络 拓扑互连结构见图( c ) 。功能模块的互连经历了从简单到复杂，从物理层到基于网络协议的o s i 互 连模型的转变。 ( a ) 专用点对点( b ) 经典的基于总线( c ) 片上网络拓扑互连 图2 4 片上通信的基本结构 片上网络的通信基础设施由交换机、通道、网络协议和网络接口等几个部分组成。在基于包交 换策略的片上网络中，交换机主要负责缓冲和转发数据包：网络接口包括资源与网络的接口以及交 8 第2 章片上网络概述 换机与网络的接口两种，资源的网络接口实现了前面4 层网络协议的功能，而交换机与交换机之间 的接口则只实现了前3 层网络协议的功能；通道是数据包传输的介质，其宽度的选择将直接影响网 络的吞吐量，而连线的数目、尺寸和空间大小又直接影响通道的吞吐量，为使总体性能最大化，使 用通道的交换机需要为每一个输入通道分配合适的缓冲区深度以便与通信模型相匹配。下面我们将 着重介绍网络协议的内容。 计算机网络中通信协议由兼容性和自适应性要求严格控制。片上通信是一个自包含系统，相对 不严格。n o c 通信受益于片上位置并采取专用或专门平台协议，可以更好地利用硬件资源。n o c 结 构中的通信是通过协议来控制的。协议不仅决定数据流在网络节点中怎样分布( 路由协议) ，还定义 了发送和接收方怎样执行通信事务( 传输办议) 。不同的协议选择对n o c 应用可靠性和功耗问题有 很大的影响。 目前，片上网络协议的研究主要借鉴通用网络的o s i 协议模型来实现【2 】。o s i 模型只是定义了 抽象的网络层次，并没有限制如何实现。表2 1 所示为片上网络协议栈与o s i 模型对应关系。最底 层是物理连线；数据链路层、网络层及传输层构成了片上网络的核心结构；系统程序和应用程序定 义为软件协议。因此中间3 层组成了基础结构并向终端节点提供通信服务。 表2 1 片上网络协议栈与o s i 模型层次对应关系 片上网络协议栈实现层次对应o s i 模型层次 应用层应用层、表示层、会话层 片上网络体系结构层传输层、网络层、数据链路层 物理层物理连线 片上网络首先从物理连接上的互连模型( 物理层) ，到引入传输检错信息的数据链路层、网络层 到最后的传输层，再连接到处理器子系统上软件层面的应用层( 包含了o s i 模型的会话层、表示层、 应用层) 。交换单元通过传输层与资源单元连接，完成处理器子系统的高层传输协议。片上网络具体 协议层如下： 1 ) 物理层( p h y s i c a ll e v e l ) ：主要解决通信通道的物理实现问题，包括互连结构、电气性能等， 这时候信号由于噪声的存在时不可靠的。该层的数据传输单位为字( w o r d ) ，其衡量指标有物理距离、 连线数量、行为控制、缓冲区和流水线等几个方面； 2 ) 数据链路层( d a t al i n kl e v e l ) ：通过数据分组技术解决物理层信号不可靠的问题。对数据打 包可以有效的解决通信错误，在包边界添加检错信息，可以对数据包进行错误恢复。数据包可以进 一步划分为多个流控单元，便于实现链路上的流量控制。数据传输单位为单元( c e l l ) ，每个网络层 的包加上目的地址就成为了一个链路单元。该层衡量指标有：连线的频率和交换机的频率、缓冲区、 错误校正、功耗优化等： 3 ) 网络层( n e t w o r kl e v e l ) ：主要研究数据包如何在网络中传输，分为交换技术和路由算法， 前者决定建立连接的类型，后者决定据消息从源地址到达目标地址的网络传输路径。发送者的包通 过接收者的地址寻址。数据传输单位为数据包，该层的衡量指标有数据包尺寸、网络地址策略。片 上路由策略的分类、评估和比较需要对多种情况加以折中，如可预见性与评价性能、路由复杂度和 速度与通道使用率、鲁棒性与脆弱性等； 4 ) 传输层( t r a n s p o r tl e v e l ) ：主要研究在发送方如何将数据分解并建立数据包以及在接收方如 9 东南大学顾1 = 学位论文 何从数据包中获得数据信息。数据传输单位为消息( m e s s a g e ) ，消息的长度可变。该层的衡量指标 有消息大小、具有流量框架的虚拟通道、信号发送、通道优先级分类如恒定比特率的流量和可变比 特率的流量、网络资源管理、错误校正等；网络接口负责将传输层消息打包，送入网络层中。在设 计中，打包的粒度非常重要，原因在于绝大部分的网络控制算法对数据包尺寸都很敏感： 5 ) 应用层( a p p l i c a t i o nl e v e l ) ：这是应用软件运行的层次。主要完成两种功能，一是在任务级 进行进程间通信，包括发送接收单个消息、基于通道的通信操作如打开、读写、关闭等；二是映射 事务( i s s u e s ) ，即将任务分配到资源上、将任务地址转换成资源地址、建立和关闭通道、静态分配 或动态分配任务等。应用层的具体实现方式表现为操作系统和相关的应用软件。操作系统负责监控 资源和交换机的使用情况、功耗情况、统计数据如错误矛- 数据链路单元等情况，还可以提供一些通 信服务如资源划分与负载迁移、错误诊断和错误恢复、功耗管理等。为建立开发片上网络的环境， 还需要提供一些相关的应用软件，如r u n t i m e 服务库、编译器、连接器和仿真器等，以帮助程序员 开发数据、计算复杂的应用程序等。 基于这几个层次的网络协议可以开发出许多的网络服务功能，并且对通信协议和服务进行严格 的分层可以实现网