（计算机系统结构专业论文）数字有机体流媒体系统中若干子系统的设计与实现.pdf

摘要 摘要 当前政府正在大力推广i n t e m e t 及宽带网络，同时网络电视计划也是方兴未 艾，这一切都推动了网络流媒体业务的迅速发展。针对目前流媒体应用广泛的视 频在线直播服务，8 0 1 0 研究室自主研发了具有高可靠性、高并发性、高性价比及 高伸缩性的数字有机体流媒体系统。在数字有机体流媒体系统中，流媒体组播业 务是一项主要的系统应用。为此，8 0 1 0 研究室在原有的技术平台上开发出了轮播 系统、数据转换系统和透明下载系统等三个系统支撑流媒体组播业务。三个系统 主要实现了传统口层组播和应用层组播功能。在详细介绍这些系统的相关设计与 实现时，本文将侧重于以下几个方面： 介绍流媒体发展概况、流媒体的基本概念、技术概要和流媒体协议标准等。 介绍数字有机体平台的概况和数字有机体流媒体系统的相关信息。主要侧重 于数字有机体流媒体轮播系统、数字有机体流媒体数据转换系统和数字有机体流 媒体透明下载系统的概要介绍。 从理论上介绍和分析多机任务选举技术。在介绍了三个常用的选举技术后， 提出了自己的分布式多机选举算法及相关模型，并在理论上进行了高效性的论 证。 深入研究流媒体系统同步机制，针对r t p r t c p 协议提供的同步机制，实现 基于时间轴模型的同步算法，并将该算法应用于流媒体数据转换系统。 详细描述了流媒体轮播系统的基本构架。对具体实现进行全面的介绍，内容 包括主要数据结构、相关算法以及最后的有关测试。 详细描述了数据转换系统的设计与实现。除了介绍相关的数据结构和算法 外，主要侧重于两个方面：线程池技术的介绍和具体实现的描述；提出一种创新 的流媒体同步机制以及其应用。 在介绍完该文所述几个系统的设计与实现后，还将对所设计与实现的系统进 行完整的相关测试并给出测试报告。 关键词： 流媒体。多机选举，音视频同步，线程池 a b s t r a c t a b s t r a c l w i t ht h ep o p u l a r i z a t i o no ft h ei n t e r a c ta n dt h eh i g h - s p e e dg r o w t ho ft h ei p t v ( t e l e v i s i o no v e ri p ) ，t h es t r e a mm e d i as e r v i c e so v e rn e t w o r ka r ed e v e l o p i n gr a p i d l y i n o r d e rt oi m p l e m e n to n eo ft h em a i ns t r e a mm e d i as e r v i c e s ，w h i c hn a m e da sm u h i c a s t - a p p l i c a t i o n , 8 0 1 0r & dd e s i g n e san e ws t r e a m i n gm e d i as y s t e mb a s e do nt h en e w o p e r a t i n gs y s t e mn a m e da sd i g i t a lo r g a n i cs y s t e m ( d o s ) w i t hh i g hr e l i a b i l i t y ，h i g h c o n c u r r e n c ea n dl o w - p r i c e h i g h - e f f i c i e n c y i nt h es t r e a mm e d i as y s t e m ，m u l t i c a s t a p p l i c a t i o ni so n ek i n do fi m p o r t a n ta p p l i c a t i o ns e r v i c e s a sf o rt h ei m p o r t a n c eo ft h i s a p p l i c a t i o n , b a s e do nt h ed o s ，8 0 1 0r & dd e s i g n e dt h r e es y s t e m st os u p p o r tt h e a p p l i c a t i o n sw h i c ha r er o t a t em u l t i c a s ts y s t e m ，d a t at r a n s f o r m e rs y s t e ma n d t r a n s p a r e n td o w n l o a d i n gs y s t e m t h em a i na p p l i c a t i o ns t y l e ss u p p o s e da r ei p l a y e r m u l t i c a s ta n da p p l i c a s t i o n - l a y e rm u l t i c a s t w h e ni n t r o d u c i n gt h ei m p l e m e n t a t i o no f t h e s y s t e m sa b o v e ，t h ef o l l o w i n gp o i n t sa r ee m p h a s i z e d ： f i r s t l y ，t h es t r e a m i n gm e d i ad e v e l o p m e n tt r e n d ，t h eb a s i cc o n c e p t si nt h i sa r e a , t h e b a s i ci m p o r t a n tt e c h n o l o g i e sa n dt h es t r e a mm e d i ap r o t o c o l ss t a n d a r d sa r eb r i e f l y i n t r o d u c e d a l s o ，a f t e rt h ei n t r o d u c t i o no ft h ed o s ，t h i sp a p e rb r i e f l yi n t r o d u c e st h em a i n s y s t e m s ：r o t a t em u l t i c a s ts y s t e m ，d a t at r a n s f o r m e rs y s t e m a n d t r a n s p a r e n t d o w n l o a d i n gs y s t e m i na d d i t i o n ，a f t e rt h ea n a l y s i so ft h r e et r a d i t i o n a lt e c h n o l o g i e sw h i c ha r eu s e dt o i m p l e m e n tt h eh i g hr e a l i t ys e r v e r l 3 ，o n ee l e c t i o nm o d u l eu n d e rt h em u l t i - n o d e si sn o t o n l yp r o p o s e d ，b u ta l s od e m o n s t r a t e dt oh a v et h eh i g he f f i c i e n c y c o n s e q u e n t l y ，a f t e rd e e p l yr e s e a r c h i n gt h es y n c h r o n i z a t i o nm e c h a n i s mo ft h e r t p r t c p ，t h i st h e s i sp r o p o s e san e ws y n c h r o n i z a t i o nm e c h a n i s mb a s e do nt h ec l o c k a x i sm o d u l ew h i c hw a su s e di nt h ed a t at r a n s f o r m e rs y s t e m a b s t r a c r m o r e o v e r ，t h em a i nf r a m eo ft h er o t a t em u l t i c a s ts y s t e mi sa n a l y s e d a n dt h e i n t r o d u c t i o no ft h ed e t a i l e di n f o r m a t i o no ft h i ss y s t e mi se m p h a s i z e d ，s u c ha st h ed a t a s t r u c t u r e s ，t h er e l a t e da r i t h m e t i c sa n dt h et e s to ft h i ss y s t e m f u r t h e r m o r e ，b e s i d e si n t r o d u c i n gt h em a i nf r a m eo ft h ed a t at r a n s f o r m e rs y s t e m ， t h i sp a p e re m p h a s i z e so nt w op a i l s ：o n ei st h r e a dp o o lt e c h n o l o g ya n dt h ea p p l i c a t i o n ， t h eo t h e ri st h en e w s y n c h r o n i z a t i o nm e c h a n i s mm e n t i o n e da b o v e f i n a l l y ，a f t e ra l lt h es y s t e m sh a v eb e e ni n t r o d u c e d ，t h ef i n a lt e s ta n dt h et e s tr e s u l t s o ft h e s es y s t e m sa r ep r o p o s e da n da n a l y s e d k e yw o r d s ： s t r e a m i n gm e d i a ，e l e c t i o nm o d u l e ，a u d i o v i d e os y n c h r o n i z a t i o n ，t h r e a dp o o l ! i i 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工 作及取得的研究成果。据我所知，除了文中特别加以标注和致谢的地 方外，论文中不包含其他人已经发表或撰写过的研究成果，也不包含 为获得电子科技大学或其它教育机构的学位或证书而使用过的材料。 与我一同工作的同志对本研究所做的任何贡献均己在论文中作了明 确的说明并表示谢意。 签名：婆舀1 日期：夕步善年，k 月，日 关于论文使用授权的说明 本学位论文作者完全了解电子科技大学有关保留、使用学位论文 的规定，有权保留并向国家有关部门或机构送交论文的复印件和磁 盘，允许论文被查阅和借阅。本人授权电子科技大学可以将学位论文 的全部或部分内容编入有关数据库进行检索，可以采用影印、缩印或 扫描等复制手段保存、汇编学位论文。 ( 保密的学位论文在解密后应遵守此规定) 签名：2 璺垄导师签名：垒：! ! ! ：! 日期：钾7 年f 月f ye t 第一章引言 1 1 课题背景 第一章引言 随着i n t e m e t 在全球的推广和普及，越来越多的人已经或开始进入计算机网 络，i n t e m e t 网络上的种种应用，都影响着人们的工作和生活，推动着社会经济的 发展，从而形成一个产业链，和能源、材料一起成为当今社会的三大支持产业。 而i n t e r n e t 网络的种种应用都建立在很多技术基础之上，随着网络时代的不断发 展，网络上传递的信息种类越来越多，特别是需要同时传递多种信息，对计算机 网络的数据传输技术也提出了新的要求。在不断提升网络带宽的同时，网络多媒 体技术也在不断发展，流媒体( s t r e a m i n gm e d i a ) 正是近年来出现的新型实用网 络多媒体技术。目前流媒体尚无一个公认的精确的定义，但流媒体技术自诞生 起，就被广泛应用于各方面的网络应用中。 从国际权威机构的调查结果可以看到，仅2 0 0 3 - - 2 0 0 4 年在网上访问流媒体 的人数即增加6 5 ，西方网络发达国家访问流媒体的人数已达到3 1 亿人，约占 网民的1 3 ，在亚洲也迅速增加到2 亿人，接近网民的1 5 。与用户增长相呼应， 互联网上流媒体技术应用也在逐年大幅度增长，如今流媒体市场已经呈现出巨大 的收入潜能。巨大的市场吸引越来越多的企业参与竞争，a p p l e 、c i s c o 、 k a s e r m a 、p h i l i p s 和s u n 在几年前宣布成立互联网流媒体联u 盟( i s m a ) ，意在共同 推动流媒体市场的发展，并制订相应的开放标准和实施协议，一个全球化的流媒 体市场和竞争格局在那时已初步形成。如何在这个市场领域取得份额，成为当前 诸多企业关注的焦点，国内外厂商的纷纷拥入，将使我国的流媒体市场更加活 跃、更加成熟，当然竞争也将更加激烈。现在看来，流媒体的影响与作用无疑是 积极喜人的，它将成为今后网络媒体的重要形式，牵动着时代的迅速发展。 在市场竞争日趋激烈的今天，如何为用户提供更好的服务，如何实现系统的 高效、高扩展和高可靠等问题成为各厂商关注的焦点。8 0 1 0 研究室以多年积累的 分布式并行技术为基础，自主研发了数字有机体基础软件平台，为实现高可靠 性、高并发性和高扩展性的流媒体应用系统提供了操作系统平台。在此基础上， 8 0 1 0 研究室研发了透明下载系统。该系统的实现不仅为应用层组播的实现提供了 全新的解决方案，同时在功能实现上也具有高可扩展性，为以后实现点播互传奠 屯子科技大学硕十学位论文 定了技术基础。此外，该系统还具有高效性和高可靠性的特点。本文主要介绍透 明下载系统中的轮播系统和数据转换系统的设计与实现。同时将其中涉及的重要 技术问题以及解决方案重点加以描述。 1 2 研究现状 由于流媒体技术领域尚未建立权威的工业标准，各家厂商纷纷推出以自己的 标准和通讯协议开发的系统。目前，国际上参与流媒体技术竞争的主要是三大公 司：m i c r o s o f t 、r e a ln e t w o r k s 和a p p l e ，相应的产品是：w i n d o w sm e d i a 、r e a l s y s t e m s 和q u i c kt i m e 。 当前，国内各大网络运营商都丌始了个各种流媒体应用的试点，如i p t v 等 应用。但是效果往往不如任意。究其原因，除了运营模式、产业链等问题外，网 络现状和技术仍然是流媒体应用推广的主要障碍。传统的流媒体服务系统，包括 上述三大厂家的产品，要求很高的主干网络带宽和接入带宽，难以在现有的网络 状况下运行。c d n 技术虽然消除了部分网络瓶颈和处理瓶颈，但由于其存在中心 系统，从而无法彻底消除系统的扩展瓶颈。基于p 2 p 技术的流媒体应用的兴起， 虽然也极大地缓解了网络带宽和处理瓶颈，但是由于p 2 p 点对点的传输特性，使 得用户绕开了宽带运营商，从而使宽带产业价值链缩短。因此，p 2 p 已经成为世 界范围内运营商的一个难题。 正是由于单纯p 2 p 面l 晦这样的运营的问题，目前中国市场上基于p 2 p 的产品 大部分都是内容免费的。另一方面，现在的流媒体应用层组播的解决方案大部分 都采用了p 2 p 技术。这样的p 2 p 类应用层组播的流媒体解决方案有p p l i v e 、 p p s t r e a m 等。同时各种网站和公司如腾讯、m a o p u 和5 q z o n e 等也各自推出自己的 此类产品。由此可见，在国内市场这一块应用层组播市场的蛋糕上，出现了群雄 争霸的局面。 从技术角度来说，上述的基于p 2 p 技术的应用层组播方案由于在全i n t e r n e t 网络内实现p 2 p ，因此没有解决好主干网络带宽占用过度的问题。基于目前的网 络状况，要向用户提供优质的流媒体服务，就必须降低流媒体应用对骨干网络的 带宽需求，就必须将服务内容放置在最靠近用户的地方，从而尽量将带宽开销限 制在用户接入网上。因此只有将大量流媒体服务器部署在网络边缘的流媒体系统 才能适应当前的网络状况。但是如何管理和组织这些部署在网络边缘的服务器成 了新的问题。数字有机体透明下载系统依托其强劲的基础软件平台数字有机体操 2 第一章引言 作系统和数字有机体数据库，能够将这些服务器组织成一个有机的整体，从而为 用户提供可靠、高效的流媒体服务。 1 3 论文研究目的及组织结构 本论文通过对高可用性服务器技术以及相关流媒体技术的分析，重点研究了 高可靠性多机任务选举机制和流媒体同步机制。在8 0 1 0 研究室自主研发的数字 有机基础软件平台上，构建了透明下载系统中的轮播系统和数据转换系统。 论文共分9 章，安排如下： 第一章介绍本课题的背景，并分析国内外流媒体服务系统现状，阐述了选题 的实现意义及论文的组织结构。 第二章介绍了流媒体相关技术，包括流媒体的概念、流式传输技术和流媒体 传输协议等内容。 第三章首先介绍了8 0 1 0 研究室自主研发的数字有机体基础软件平台，然后 介绍在该基础软件平台上开发的流媒体系统。其中重要介绍了轮播系统、数据转 换系统和透明下载系统。 第四章从理论上分析了构建高可用服务器群的多种技术方案和实现机制，重 点分析了传统的两种算法模型的优缺点，在此基础上提出了我们自己的多机任务 选举模型的改进方案并在理论上进行了分析对比。 第五章介绍了数字有机体流媒体系统中轮播系统的设计与实现。主要介绍了 整个系统的相关结构与功能的设计与实现，同时完成了实际环境下的相关测试。 第六章首先介绍了数据转换系统的整体设计和实现。然后具体介绍该系统中 各个模块的设计与实现以及相关涉及的技术问题和解决方案。重点介绍了音视频 同步算法和线程池技术的实际应用。 第七章介绍了数字有机体相关系统的系统测试情况，结合本系统在网络运营 商的使用情况，说明整个流媒体系统系统已经具备实际运营条件。 第八章对全文进行了总结，并指出今后的研究工作方向。 3 电子科技大学硕十学位论文 2 1 流媒体的概念 第二章流媒体技术概述 流媒体是指在i n t e r n e t i n t r a n e t 中使用流式传输技术的连续时基媒体，如音 频、视频或多媒体文件。这个词首先出现在美国，英文是“s t r e a m i n gm e d i a ”， 中文翻译成“流媒体”。 流媒体把连续的影像和声音信息经过特殊的压缩方式分成一个个压缩包，由 流媒体服务器向用户计算机连续、实时地传送。让用户一边下载一边观看、收 听，而不需要等整个压缩文件下载到自己的机器后才可以观看。该技术首先在用 户端的计算机上创造一个缓冲区，预先下载多媒体文件的部分数据作为缓冲，播 放程序读取缓冲区内的数掘进行播放。在播放的同时，用户计算机在后台继续下 载多媒体文件的剩余部分填充缓冲区。这样，当网络出现抖动( j i t t e r ) ，实际连 线速度小于播放消耗数据速度时，可以避免播放的中断，也使得播放质量得以维 持。所以流媒体最显著的特征是“边下载、边播放”。 流媒体技术是网络音视频发展到一定阶段的产物，是一种解决多媒体播放时 网络带宽问题的“软技术”。流媒体技术并不是单一的技术，它是融合了很多网 络技术之后产生的技术。它涉及到流媒体数据的采集、压缩、存储、传输以及网 络通讯等多项技术。可以看出流媒体技术的核心是流媒体，实现流媒体技术的关 键技术是流式传输。 2 2 流式传输 2 2 1 流式传输基本原理 i n t e r n e t 以包传输为基础进行断续的异步传输，实时a v 源或者存储的a ，v 文件在传输中被分解为许多口包，由于网络是动态变化的。各个包选择的路由不 尽相同，故到达客户端的时问延迟也不等，甚至先发的数据包有可能后到。为 此，使用缓存系统来弥补延迟和抖动的影响，并保证数据包的顺序正确，从而使 媒体数据能连续输出，不会因网络暂时拥塞使播放出现停顿。通常高速缓存所需 4 第二章流媒体技术概述 容量不大，因为高速缓存可以采用环形链表结构来存储数据，通过丢弃已经播放 的内容，可以重新利用空出的高速缓存空间来缓存后续尚未播放的内容。 流式传输的实现需要合适的传输协议。w w w 技术是以 r r r p 为基础的，而 哪又建立在t c p 基础之上。由于t c p 需要较多的丌销，故不太适合传输实时 数据。在流式传输的实现方案中，一般采用 r 兀p 厂r c p 来传输控制信息，而用 r t p u d p 来传输实时流媒体数据。 流媒体的具体传输流程如下： ( 1 ) 客户机的w e b 浏览器与w e b 服务器之间使用h t i p t c p 交换控制信息， 把需要传输的实时数据从原始信息中检索出来。 ( 2 ) 客户机的w e b 浏览器启动流媒体播放器，利用h t r p 从w e b 服务器检 索到的相关参数对播放器进行初始化。这些参数包括目录信息、流媒体数据的编 码类型和与流媒体检索相关的服务器地址。 ( 3 ) 利用从w e b 服务器检索出的服务器地址定位流媒体服务器。 ( 4 ) 流媒体播放器与流媒体服务器之间交换传输所需要的实时控制协议。与 c d 播放机或录像机所提供的功能相似，实时流协议( r t s p ) 提供了操纵播放、 快进、快退、暂停及录制等命令。流媒体服务器使用r t p u d p 协议将流媒体数 据传输给客户机的流媒体播放器。 ( 5 y 流媒体数据到达客户端，播放器缓冲到达一定程度就可播放。 图2 1 流式传输基本原理图 需要说明的是，在流式传输中，使用r 耶a j d p 和r t s p ，r c p 两种不同的通 信协议与流媒体服务器建立联系，是为了能够把服务器的输出重定向到一个不同 于运行流媒体播放程序所在客户机的目的地址。 实现流式传输有两种方法：实时流式( r e a l t i m es t r e a m i n g ) 传输和顺序流式 ( p r o g r e s s i v es t r e a m i n g ) 传输。一般说来，如视频为实时广播，或使用流式传输 媒体服务器，或应用如r t s p 的实时协议，即为实时流式传输。如使用h t t p 服 5 电子科技人学硕士学位论文 务器，文件即通过顺序流发送，这种传输方式就称为顺序流式传输。采用哪种传 输方法依赖于用户的具体需求，当然，流式文件也支持播放前完全下载到硬盘后 再播放。 2 2 2 顺序流式传输 顺序流式传输是顺序下载，用户可以观看在线媒体。但是在给定时刻。用户 只能观看已下载的那部分，而不能跳到未下载的前序部分，不能根据用户的连接 速度做调整。由于标准的h t r p 服务器可发送这种形式的文件，而不需要其他特 殊协议，所以经常被称作h r r p 流式传输。 顺序流式传输方式适合高质量自啦片段，如片头、片尾和广告，由于文件在 播放前观看的部分是无损下载的，所以这种方式能保证影片的最终播放质量。顺 序流式文件放在标准h t t p 或f r l 服务器上，易于管理，基本上与防火墙无关。 顺序流式传输不适合长片段和有随机访问需求的视频、讲座、演说与演示，也不 支持现场广播。严格地说，顺序流式传输是一种点播技术。 2 2 3 实时流式传输 实时流式传输指保证媒体信号带宽与网络连接相匹配，使媒体可以被实时地 观看。实时流与h t r p 流式传输不同，需要专用的流媒体服务器与传输协议。 实时流式传输是实时传送，特别适合现场事件，也支持随机访问，用户可快 进或后退以观看i ；i 面或后面的内容。理论上，实时流一经播放就可不停地收看， 但实际上，可能会发生周期暂停。 从视频质量上讲，实时流式传输必须匹配连接带宽，由于出错丢失的信息被 忽略掉，网络拥挤或出现问题时，视频质量会很差。如欲保证视频质量，顺序流 式传输更好。 实时流式传输需要特定服务器。如q u i c k t i m es t r e a m i n gs e r v e r ，r e f ls e r v e r 与w i n d o w sm e d i as e r v e r ，这些服务器允许对媒体发送进行更多级别的控制，因 而系统设置、管理比标准h t t p 服务器更复杂。 实时流式传输还需要特殊网络协议，如：r t s p ( r e a lt i m es t r e a m i n g p r o t o c 0 1 ) 。这些协议在有防火墙时有时会出现问题，导致用户不能看到一些地点 的实时内容。 6 第二二章流媒体技术概述 2 3 流媒体实现原理 流媒体实现原理简单地说，就是通过采用高效的压缩算法，在降低文件大小 的同时伴随质量的损失，让原有的庞大的多媒体数据适合流式传输。然后通过架 设流媒体服务器，修改m i m e 标识，利用各种实时协议传输流数据。流媒体实现 原理如图2 2 所示。 图2 - - 2 流媒体实现原理图 2 3 1 编码处理 多媒体数据必须进行预处理才能适合流式传输，这是因为目前的网络带宽相 对多媒体巨大的数据流量来说还显得远远不够。预处理主要包括两方面：一是采 用先进高效的压缩算法；二是加入一些附加信息把压缩媒体转为适合流式传输的 文件格式。其技巧在于压缩原始的a 内容，使其能够在窄带或宽带通道上以流 的方式传给用户。预处理在编码器内完成，编码方式的选择可以是多种多样的。 m i c r o s o f t 、r e a ln e t w o r k s 、a p p l ec o m p u t e r 以及其他各方均提供关于编码、流式 传送以及客户观看等方面享有专用权的方案。此外，某些商家已开始提供1 0 0 兼容m p e g 4 的产品。常规视频编码速度的范围从2 0 k b i t s 到目前的3 0 0 k b i t s ， 将来则有望达到1 m b i t s 及以上的速度。 编码过程是一种艺术，应该考虑不同编码速度的定制性能、包损失的容错性 与网络的带宽波动、最低速度下好的a v 品质、编码流式传送的成本、流的控 制以及其他有面。 2 4 本文中涉及的相关协议介绍 2 4 1 会话描述协议一s d p s d p 协议简介 s d p 协议主要应用于流媒体会话中服务器与客户端的信息描述。建立会话的 主要作用是协商通讯双方多媒体信息流的编码格式及r t p 传输地址等。因此，无 论在请求消息还是响应消息中都应该包含描述有关将要交换的多媒体信息流的一 7 电子科技人学硕十学位论文 些信息，如r t p 净荷类型、r t p 传输地址等，这些信息不是由消息头给出的，而 是通过信息所携带的消息体提供的。在绝大多数情况下，会话描述协议( s d p ) 描述这些信息。 s d p 协议语法 s d p 通过若干个文本行来传输会话描述信息，每一文本行采用“字段= 值” 这样的格式。其中，字段用一个字符表示，值取决于对应的字段。在一些情况 下，值可能由若干独立的信息块组成，这些信息块用空格分隔。因此，在“字 段”与“= ”之自j ，及“= ”与“值”之问不允许插入任何空格。 会话级字段必须处在最i j 面，会话级字段之后，才是媒体级字段。媒体级字 段必须紧随会话级字段，会话级字段和媒体级字段的分隔用第一个出现的媒体描 述字段( m = ) 实现。每当出现一个媒体描述字段( m = ) ，意味丌始一组与会 话所涉及的特定多媒体信息流相关的媒体描述信息。 由于一些字段既可以作用于会话级，又可以作用于媒体级，为避免混淆，必 须规定字段顺序。s d p 规定的字段顺序如下： 会话级 v ( 协议版本号) o ( 会话创建者) s ( 会话名) i ( 会话信息，可选) u ( 统一资源标识符，可选) e ( e m a i l 地址，可选) p ( 电话号码，可选) c ( 连接信息，可选) b ( 带宽信息) t ( 时问描述) r ( 重复信息，可选) z ( 时域调整，可选) k ( 密钥，可选) a ( 属性，可选) 媒体级 m ( 媒体描述) i ( 媒体信息，可选) 8 第二章流媒体技术概述 c ( 连接信息，可选) b ( 带宽信息，可选) k ( 密钥，可选) a ( 属性) 2 4 2 实时传输协议一r t p r t p 协议简介 r t p 协议作为流媒体传输协议提供了实时端到端传送视频、音频数据流的方 法。一般来讲，使用r t p 协议应用程序一般采用u d p 作为下层传输协议。u d p 协议虽然较t c p 协议可靠性较低，并且无法保证实时业务的服务质量，但是u d p 协议的传输时延远低于t c p 协议，并且能很好的保证数据传输的实时性。r t p 协 议与底层传送网络所采用的物理介质无关，可以运行于多种网络之上。同时r t p 协议也支持组播，这样可以大大的节约网络带宽。 需要注意的是，r t p 本身并不能为按顺序传送数据包提供可靠的传送机制， 也不提供流量控制或拥塞控制，它依靠实时传输控制协议r t c p ( r e a l t i m e t r a n s p o r tc o n t r o lp r o t o c 0 1 ) 提供这些服务。通常r t p 算法并不作为一个独立的网 络层来实现，而是作为应用程序代码的一部分。实时传输控制协议r t c p 和r t p 一起提供流量控制和拥塞控制服务。 r t p 协议报文格式 r t p 数据包的报文头格式如图2 - 3 所示： 图2 3r t p 报文头格式 r t p 报文首部格式各个参数的意义如下： v ( v e r s i o n ) ：表示r t p 的版本，当前的版本号为2 ： p ( p a d d i n g ) ：用于指定在有效载荷后是否补零填充，在加密要求把数据分配 在固定大小的块时使用它； x ( e x t e n s i o n ) ：如果应用程序类型允许扩展，则该位用于指定分组中是否有 扩展； 9 电子科技大学硕士学 工论文 c c ( c s r cc o u n t ) ：给出参与源的数目，最多时可以列出1 5 个源； m ( m a r k e r ) ：标记位，依赖于具体的应用程序。在视频服务程序中，它用于 指明一个视频帧或者音频帧的边界； p t ( p a y l o a dt y p e ) ：有效载荷字段，指定了r t p 数据报的载荷格式及编码压 缩方法。常见的类型有：p c m 、m p e g l m p e g 2 、j p e g 视频和h 2 6 1 视频流 等，用户可以根据需要自行定义。首部中大多数其他字段的解释要依赖于该字段 的具体指定； s e q u e n c en u m b e r ：包含分组的序号，初始值是随机产生的，随后每发送一个 r 1 1 p 数据报序列号便增加1 。接收端可以通过序列号来检测传输过程中的数据包 丢失、损坏以及失序的情况； t i m e s t a m p ：给出数据报中第一个字节的采样时间，但并不指定准确的时i 日j 问隔，而是取决于r t p 帧的有效载荷类型。接收方可以利用时间戳来维持数掘接 收的实时性，实现数据流的同步和r t p 数据报的重组，并按照j 下确的速率回放媒 体流； s s r c ：指明同步源的标识符，这个值应该随机选择，以保证两个同步源在 同一会话中会有两个不同的值，防止数值上的冲突。如果在播放过程中一个源改 变了地址，则s s r c 应该选择一个新的值。 c s r c ：提供正在混合的数据流的同步i d ，其作用仍是区分多个同时的数据 流。 负载数据：包含r t p 报文携带的数据信息。 其中，允许接收方检测不按顺序交付或数据丢失的“序列号”( s e q u e n c e n u m b e r ) 和允许接收方控制回放的“时间戳”( t i m e s t a m p ) 是r t p 数据报的两 个关键特性。下一章将就如何使用这两个参数做深入的分析。 2 4 3 实时传输控制协议一r t c p r t c p 协议简介 r t c p ( r e a l t i m et r a n s p o r tc o n t r o lp r o t o c 0 1 ) 是r t p 的伴生协议，它提供传 输过程中所需的控制功能。r t c p 允许发送方和接收方互相传输一系列报告，这 些报告包含有关正在传输的数据以及网络性能的额外信息，r t c p 就是依靠这种 成员之间周期性地传输控制分组来实现控制监测功能的。r t c p 报文也是封装在 1 0 第一二章流媒体技术概述 u d p 中，以便于进行传输。发送时使用比它们所属的r t p 流端口号大1 的协议 号，既选用下一个奇数位的端口号。 在r t p 会话期间，各参与者周期性地传送r t c p 包。r t c p 包中含有已发送 的数据包的数量、丢失的数据包的数量等统计资料，因此，服务器可以利用这些 信息动态地改变传输速率，甚至改变有效载荷类型。r t p 和r t c p 配合使用，它 们能以有效的反馈和最小的开销使传输效率最佳化，因而特别适合传送网上的实 时数据。 r t c p 基本报文类型 r t c p 使用5 种基本报文类型，它们携带不同的控制信息，允许发送方和接 收方交换有关会话的信息，下表列出了这些类型。 其中， 表2 1r t c p 基本报文类型 类型含义 2 0 0 发送方报告( s r ) 2 0 1接收方报告( r r ) 2 0 2源描述报文( s d e s ) 2 0 3结束报文( b y e ) 2 0 4应用程序特定报文( a p p ) 最主要的r t c p 报文是发送方报告报文s r 和接受方报告报文r r 。通 常s r 报文占总r t c p 包数量的2 5 ，r r 报文占7 5 。类似于r t p 数据包，每 个r t c p 报文以固定的包头部分开始，紧接着的是可变长结构元素，但是以3 2 位长度为结束边界。在r t c p 报文中不需要插入任何分隔符就可以将多个r t c p 报文连接起来形成一个r t c p 组合报文。由于需要底层协议提供整体长度来决定 组合报文的结尾，所以在组合报文中没有单个的r t c p 报文的显式计数。 利用上述五类r t c p 控制报文，可以实现如下服务： ( 1 ) 媒体同步：s r 报文包含有与r t p 时间戳相对应的实时信息，可以像视 频帧同步一样实现媒体同步； ( 2 ) 信源标识：在r t p 数据包中，信源采用3 2 位的s s r c 进行标识，不是 很直观。而r t c p 的s d e s 包则可提供具有文本信息的多项标识； ( 3 ) 拥塞控制和q o s 监控：这是r t c p 的一个重要功能。发送方可根据r r 报文调整数据实时传输方式，保证端系统正常接收；接收方可判断网络拥塞的范 1 1 电子科技人学硕十学位论文 围是在本地、本地区还是全局，有的放矢地采取对策，网络管理员也可及时监视 网络实时传输的性能。 2 5 本章小结 本章介绍了流媒体技术各方面的概况。首先介绍了流媒体的概念，即“使用 流式传输技术的连续时基媒体”。流式传输是流媒体实现的关键技术，流式传输 方式分为顺序传输和实时传输。然后介绍了流媒体实现的基本原理，最后介绍了 本文中使用到的相关协议。 第三章流媒体数字有机体流媒体技术概述 第三章数字有机体流媒体系统概述 3 1 数字有机体系统简介 图3 1 数字有机体系统结构图 数字有机体系统是8 0 1 0 研究室自主研发的一套具有高可靠性、高并发性、 高性价比和高伸缩性的基础软件平台。将若干计算机通过宽带网络互联，并根据 需要采用现有的和最新的理论和技术，使互联而成的系统具有生物抗体的特性， 则该系统即为数字有机体系统。通俗一点，数字有机体系统由许多分布于不同地 方的数字有机体站组成。每个数字有机体站是由多台相互之间具有高速互联网络 ( 如在一个高速交换机上) ，并且在一个子网内的相互间紧密耦合的服务器构成 的。它本身可以独立运行，也可以作为整个数字有机体系统的一部分参与协作运 行。每个数字有机体站无论大小，在逻辑上都是平等的。因此整个系统没有中心 节点或者中心系统，具有良好的自组织性。系统结构如图5 1 所示。 数字有机体系统是一个通用的支撑平台，它不仅可以为流媒体服务提供支 撑，也可以为其他应用提供支撑，如游戏、w e b 等。作为流媒体服务系统支撑平 台，每个服务站覆盖一定的用户群，并主要为所覆盖的用户提供服务。服务内容 电子科技大学硕士学位论文 ( 节目文件和服务数据) 分柿式地存储在这些站中。每个服务站内容可能不完全 相同，但它可以获知在哪罩得到自己想要的内容。数字有机体流媒体服务系统没 有集中存储设备，而是由各个服务器自带的存储设备构建共享存储系统，因此不 存在单一故障点，并能够提供充分的并发访问特性，提高访问速度，增加并发流 数目，以及良好的扩展性。 由于我们的流媒体系统正是架构在这样的一个平台上，数字有机体的各种特 性将在我们的流媒体系统中得到很好地体现和应用。在我们的数字有机体流媒体 系统设计中，我们共分成了两个应用部分：点播应用和组播应用。本论文主要介 绍组播应用部分。组播应用部分主要分为两种组播应用方式：传统i p 层组播和应 用层组播。由此我们将组播应用分为了组播数据源系统和透明下载系统。其中组 播数据源系统不仅负责实现传统i p 层组播应用方式，而且也要能够为应用层组播 方式提供应用层组播数据源。透明下载系统则主要负责流媒体系统中应用层组播 方式的媒体流的应用层传输。具体各个系统的描述在下面有详细叙述。 3 2 流媒体组播数据源系统概述 流媒体组播数据源系统主要的设计目标是不仅要能够实现传统i p 层组播，同 时也要能够为应用层组播提供媒体数据。这里我们将整个组播数据源系统分为两 个子系统：轮播系统和数据转换系统。 轮播系统设计的目标是能够实现传统i p 层组播。它能够根据事先的频道配置 信息访问本地文件系统的媒体文件，并将该媒体文件中的媒体信息提取出来，封 装成满足r t p 协议的网络包，并通过i p 层组播的方式将这些网络包发送至客户 端。客户端播放器能够通过解析s d p 文件获得频道信息，加入组播组并获得相应 频道的网络包。由于在传输过程中轮播系统是使用了口层组播的方式，因此我们 称之为是传统i p 层组播方式。但在实际使用中我们发现有一个很严重的问题：由 于传统口组播的方式需要路由器或交换机必须支持i g m p 协议，而当前网络的状 况是仅仅只有小部分的网络路由器或交换机已经配置支持口层组播，因此这种传 统的组播方式只有在小范围的情况下才能使用。 正是因为这样的原因，应用层组播的研究与应用才会如火如荼地开始展开。 我们的组播数据源系统同样需要为应用层组播方式提供应用层组播数据源，即向 流媒体透明下载系统提供满足一定格式要求的应用层组播数据。这里我们设计应 用层组播数据源时很大程度上是如何兼容传统m 层组播方式，即如何最大程度上 1 4 第三章流媒体数字有机体流媒体技术概述 复用传统口层组播方式。我们的设计是设计一个数据转换系统来实现轮播系统和 透明下载系统的数据转换衔接。具体设计思想是用数据转换系统加入相应的组播 组将轮播系统发出的相应频道的r t p 网络包接收下来，然后将这些网络包封装成 满足一定格式的媒体数据流，以t c p 方式传递给透明下载系统。然后透明下载系 统就可以通过这种方式获得需要的满足一定要求的组播数据源。 3 3 流媒体透明下载系统概述 透明下载系统目前的定位是构建在数字有机体系统上的流媒体传输系统。该 系统研发的目的是不仅要解决目前p 2 p 类应用层组播遇到的难题，提供更为优异 的应用层组播解决方案，同时还要适应将来的发展，能够实现p 2 p 类的点播功能 方寨。从更远的层次来看，我们不仅将该系统实现在流媒体应用方面，同时也要 实现成一种更广泛的文件资源的透明共享和多点快速互传的解决方案。 就如今的透明下载系统定位来看，我们的主要目标是解决目前p 2 p 流媒体应用 层组播解决方案遇到的几个问题。其中包括主干网流量压力过大、服务响应过慢 和频道切换时间间隔过长等问题。 3 3 1 系统结构介绍 在我们的流媒体透明下载系统中，组成骨干网的是我们的数字有机体各个服 务器节点，这些节点是整个系统的边缘化服务器，它们每个节点都负责了一个客 户端节点区。当某个节点区中的某个客户请求应用层组播观看服务时，负责该节 点区的服务器节点就会接受这些请求，同时该节点负责连接其它服务器获得满足 一定格式的流媒体数据。如果查询该频道的应用层组播服务还未开通，则该节点 会直接向流媒体组播数据源系统请求应用层组播数据，由于该节点是当前唯一的 拥有组播数据的服务器节点，那么该节点就是这个频道的应用层组播树的根节 点。当随后其他服务器节点也需要获得这些媒体数据，他们就会向根节点或组播 树的其他拥有数据的服务器节点请求媒体数据，根节点则向组播树的其他节点发 送媒体数据，主干网的其他节点上则沿着组播树传递这些数据。这些服务器节点 也能够将这些媒体数据发送自己负责的客户端节点区的各个客户端节点上。 各个客户端节点不仅能够根据接收到的媒体数据包进行解包和回放，同时这 些客户端节点要能够在本客户节点区内实现媒体流数据的互传。 综上所述，整个系统的部署架构如下图所示： 电子科技大学硕士学位论文 o c , o m p u t e r 图3 2 数字有机体流媒体系统透明下载系统结构图 如上图所示，中间的三个服务器节点代表了主干网上的三个