（计算机系统结构专业论文）p2p流媒体内容分发系统负载均衡策略的研究与实现.pdf

! l 。冬! 主 参 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工 作及取得的研究成果。据我所知，除了文中特别加以标注和致谢的地 方外，论文中不包含其他人已经发表或撰写过的研究成果，也不包含 为获得电子科技大学或其它教育机构的学位或证书而使用过的材料。 与我一同工作的同志对本研究所做的任何贡献均已在论文中作了明 确的说明并表示谢意。 签名：至酲己啦 日期：驯。年期毕日 论文使用授权 本学位论文作者完全了解电子科技大学有关保留、使用学位论文 的规定，有权保留并向国家有关部门或机构送交论文的复印件和磁 盘，允许论文被查阅和借阅。本人授权电子科技大学可以将学位论文 的全部或部分内容编入有关数据库进行检索，可以采用影印、缩印或 扫描等复制手段保存、汇编学位论文。 ( 保密的学位论文在解密后应遵守此规定) 签名：j 蝌。导师签名：二艺址 e l 期：缈年厂月脾日 l j p q 叠 t 钆 务； 龟 摘要 摘要 随着互联网技术的不断发展以及运营商对硬件设施的投入，在线视频业务已 经成为了网络应用的热门领域。一方面，随着在线视频用户数的急剧膨胀以及宽 带网络和宽带流媒体应用的兴起，传统的流媒体内容分发技术( c o n t e n td i s t r i b u t i o n n e t w o r k ) 已经日益不能满足用户需求。而另外一方面，随着p 2 p 技术的兴起、客户 端网络带宽以及个人计算机硬件条件的改善，使得客户端系统成为了宝贵的系统 资源。如何充分利用客户端资源，减轻流媒体服务器端的负载压力，是近年来的 研究热点之一。 为了满足上述需求，解决最新问题，我们提出了一套基于p 2 p 的流媒体内容 分发系统：p p s d n ( p 2 p m e d i as t r e a md i s t r i b u t e d n e t w o r k ) 。通过把内容分发技术与 p 2 p 技术的优点相结合，既能充分利用客户端资源，有效减少系统所需的资源服务 器数量，降低服务器端负载：又能使媒体内容发布到距离客户较近的边缘域内， 使客户端的响应速度大大提高，而内容分发网络中的边缘服务器的存在，又避免 了纯p 2 p 网络结构中的“做种 失效以及传输的非平衡性与非对称性问题。 本文首先对流媒体内容分发网络进行了系统而又全面的分析与介绍；然后， 研究与比较现有的内容分发技术和流媒体服务器技术；同时，我们又简单地介绍 了p 2 p 网络传输技术和基于p 2 p 技术的流媒体内容分发网络以及内容分发网络中 的负载均衡策略。最后，通过研究不同的负载均衡方案，结合p p s d n 实际网络运 行的环境和现有的负载均衡策略，我们提出并且实现了合理的负载均衡策略，并 详细介绍了相关模块的设计与实现。 通过对p p s d n 系统的功能测试以及性能测试，验证了系统功能的完善性，以 及负载均衡策略的有效性。实际部署中用户的积极反馈，也进一步验证了系统的 优良性能。 关键词：p 2 p ，c d n ，流媒体，负载均衡 p 争毒 飞 远 q 龟 a b s w a c t a b s t r a c t a st h ed e v e l o p m e n to fi n t e m e tt e c h n o l o g ya n dt h ei n c r c a s ei n v e s t m e n ti n h a r d w a r eb yn e t w o r ko p e r a t o r , t h ev i d e o - o n d e m a n d ( v o d ) h a sb e c o m eap o p u l a r a r e af o rn e t w o r ka p p l i c a t i o n s o nt h eo n es i d e ，w i 1t h er a p i dg r o w t ho f t h eo i l l i n ev o d u s e rn u m b e r sa sw e l la st h ed e v e l o p m e n to fb r o a d b a n da n dt h eb r o a d b a n ds t r e a m i n g m e d i aa p p l i c a t i o n s ，t h et r a d i t i o n a ls t r e a m i n gm e d i ac o n t e n td i s t r i b u t i o nn e t w o r kc a l ln o t s a t i s f yt h en e e do fu s e r s w h i l eo nt h eo t h e rs i d e ，t h ea p p e a r a n c eo ft h e p e e rt op e e r ( p 2 p ) t e c h n o l o g yw i t ht h ei m p r o v e m e n to fc l i e n t sb a n d w i d t ha n dh a r d w a r em a k et h e c l i e n tb a n d w i d t hb e c o m eav a l u a b l er e s o u r c e h o wt om a k ef u l lu s eo ft h ec l i e n t r e s o u r c e sa n dr e d u c et h es t r e a m i n gm e d i as e r v e r - s i d el o a dp r e s s u r eh a sb e c o m eo n eo f t h eh o tf i e l d si nr e c e n ty e a r s i no r d e rt om e e tt h en e e d sa n ds o l v et h e s ep r o b l e m s ，t h i st h e s i sd e s i g n sa n d i m p l e m e n t sp p s d n ( p e e rt op e e rb a s e dm e d i as t r e a md i s t r i b u t e dn e t w o r k ) 。a n do n t h ec o m b i n i n gt h ea d v a n t a g eo fc o n t e n td i s t r i b u t i o nn e t w o r ka n dp 2 pt e c h n o l o g yt h a t c a nb o t hm a k e 触lu s eo ft h ec l i e n tr e s o u r c e sa n dr e d u c et h es e r v e rn u m b e r sa n dl o a d p r e s s u r e ，a l s op u s ht h em e d i ar e s o u r c ec l o s e rt ot h eu s e r , w h i c hc a r lr e d u c et h er e s p o n s e t i m eo fc l i e n tg r e a t l y , w h i l et h ee x i s t e n c eo fs e r v e ri nc o n t e n td i s t r i b u t i o nn e t w o r kc a n a v o i dt h es e e d - f a i l u r e ，t h ea s y m m e t r ya n dn o n e q u i l i b r i u mp r o b l e m si nf i l et r a n s m i s s i o n i np u r e p e e rt op e e rn e t w o r kt o p o l o g y f i r s tt h em e d i as t r e a m i n gc o n t e n td i s t r i b u t i o nn e t w o r ki sa n a l y z e da n di n t r o d u c e d ， t h e nt h ep 2 pn e t w o r ks t r u c t u r ea n dt h ep e e rt op e e rb a s e do nt h em e d i as t r e a m i n g c o n t e n td i s t r i b u t i o nn e t w o r ka n dt h el o a db a l a n c es t r a t e g yi np p s d ni sp r e s e n t e d b y r e s e a r c h i n gt h ed i f f e r e n tl o a db a l a n c ea l g o r i t h m sc o m b i n e dw i t l lt h ep p s d ns y s t e m s r e a ln e t w o r kr u n n i n ge n v i r o n m e n ta n de x i s t i n gb a l a n c es t r a t e g y , t h es t r a t e g yi i lt h e p p s d ni sp r o p o s e da n di m p l e m e n t e d a l s ot h er e l a t e dm o d u l e sa r ei n t r o d u c e d t h et e s to fp p s d ni n c l u d e st h ef u n c t i o na n dp e r f o r m a n c e t h er e s u l t sd e m o n s t r a t e t h ei n t e g r i t yo ft h es y s t e m ，a n dt h ea c c u r a c ya n de f f e c t i v e n e s so ft h es t r a t e g y u s e r f e e d b a c k sf u r t h e rs h o wt h a tp p s d nc a na c h i e v eah i 曲p e r f o r m a n c ec o n t e n td e l i v e r y k e y w o r d s ：p 2 p , c d n ，s t r e a m i n gm e d i a , l o a db a l a n c e 雾 玉 目录 一 第一章引言 目录 1 1 研究背景1 1 2 本文的工作内容与创新2 1 3 本文内容与结构3 第二章p p s d n 系统简介 4 2 1p p s d n 出现的背景4 2 1 1 传统的流媒体服务器4 2 1 2 基于c d n 的流媒体服务器5 2 1 3p 2 p 技术5 2 1 4 基于p 2 p 的c d n 技术6 2 2p p s d n 的特点6 2 3 几种视频分发方案的比较7 2 3 1p 2 ps t r e a m i n g 直播7 2 3 2 传统的c d n 点播7 2 3 3p p s d n 点播7 2 3 4 普通c d n 点播和p p s d n 点播的区别7 2 4p p s d n 的模块介绍8 2 4 1 妒模块9 2 4 2c r 模块1 0 2 4 3r c 模块1 1 2 4 4e s d 模块11 2 4 5c a 模块1 2 2 4 6t r a c k e r 模块1 3 2 4 7p p m 模块1 3 2 4 8u i s 模块。1 4 2 5 相关技术1 4 2 5 1 域管理。1 4 2 5 2p u s h 模式1 5 “； 口 目录 2 5 3p u l l 模式。l6 2 5 4 负载均衡1 8 2 6p p s d n 系统的程序开发与运行环境。1 8 2 6 1 基于l i n u x 环境的程序开发一：1 8 2 6 2 服务器模式设计1 9 2 6 3 异步事件驱动的程序2 2 2 7 小结2 4 第三章负载均衡技术简介 3 1 负载均衡策略在大规模内容分发网络系统中的作用2 5 3 2 负载均衡技术的分类：2 6 3 2 1 软件硬件负载均衡2 6 3 2 2 本地全局负载均衡2 6 3 2 3 静态动态负载均衡2 7 3 3 各种负载均衡策略2 7 3 3 1 最少连接数均衡策略2 8 3 3 2 轮询均衡策略2 8 3 3 3 加权轮询策略2 8 3 3 4d n s 响应均衡策略2 8 3 3 5 处理能力均衡策略2 9 3 4 小结2 9 第四章负载均衡相关模块设计 3 0 4 1m 模块概要设计3 0 4 1 1 与e s d 交互的模块3 0 4 1 2 与r c 交互的模块。3 2 4 2p 模块的通信设计3 2 4 2 1 面向连接协议与无连接协议3 2 4 2 2 应用层传输协议报文设计3 3 4 3 口主要数据结构说明3 5 4 3 1e s d i n f o 结构3 5 4 3 2f u l l i n f o 结构3 5 4 4i p 发布以及删除流程3 8 4 4 1p u s h 发布模式3 9 l v t ， 厂一 目录 4 4 2p u l l 发布模式。4 3 4 4 3 删除流程。4 7 4 5p 发布选择策略4 8 4 6r c 模块概要设计4 9 4 6 1 与c r 交互的模块5 0 4 6 2 与e s d 交互的模块5 1 4 6 3 与t r a c k e r 交互的模块5 4 4 6 4 与口交互的模块5 5 4 7r c 通信协议设计5 5 4 8r c 主要数据结构。5 6 4 9r c 的功能和流程5 8 4 9 1c r 连接初始化5 8 一一4 9 2c r 同步发布内容5 8 4 9 3c r 同步删除内容5 8 4 9 4e s d 连接初始化。5 8 4 9 5e s d 状态报告。5 9 4 9 6t r a c k e r 连接初始化5 9 4 9 7t r a c k e r 报告缓存决策信息5 9 4 9 8i n f o h a s h - t r a c k e r 映射5 9 4 9 9i p 获取e s d 信息5 9 4 9 1 0i p 获取缓存决策信息5 9 4 9 1 1 口发布内容i n f o h a s h 5 9 4 9 1 2i p 删除内容i n f o h a s h 6 0 4 1 0r c 负载均衡策略6 1 4 1 1e s d 与客户端的邻居接点选择算法以及片选算法6 2 4 1 2 小结6 3 第五章系统测试 5 1 测试环境6 4 5 2 测试内容6 5 5 2 1 功能覆盖测试6 5 5 2 2 系统压力测试6 6 5 3 测试结果分析6 8 v “； 搿 目录 第六章结论 6 1 总结6 9 6 2 改进方向6 9 致谢 参考文献 攻硕期间取得的研究成果。 v i 7 1 7 6 专 1 7 0 k q l 岛 第一章引言 1 1 研究背景 第一章引言弟一旱 ，li 随着因特网规模的急剧扩大、新型应用的大量出现、用户对网络服务质量要 求越来越高，传统的计算机网络面临着巨大的挑斟1 1 。 互联网用户数量正以爆炸式的速度增长，因为接入方式多种多样，导致接入 速度也有了很大改善。庞大的用户带来的是大量的数据请求。据统计，一台普通 的w e b 服务器在一分钟之内，就可能收到上百万次的数据请求【2 】。而客户端硬件 设备的改善，也使得用户期望得到更快的服务响应，再也难以忍受以往长时间的 服务延迟。这些都对w e b 服务器以及网络质量提出了更高的要求。但是，由于服 务器和客户机在数量上的不对称性，仅仅依靠提高服务器端的配置，和增加网络 设备的带宽来满足大量用户的连接请求，已经成为不可能的事情。尤其是在某些 突发事件出现时，用户的访问量会瞬间增长，就可能会造成客户端的延迟，甚至 服务器宕机，使用户满意度极为低下【3 】。 另外，数据文件类型的不断丰富，数据文件大小不断增加，要求服务器硬件 设施不断更新换代。随着互联网应用不断丰富，数据类型也多种多样。早期的w e b 服务内容相对单一，主要是静态网页、邮件、图片、文档等，数据量较小。而现 在数据类型越来越丰富，文件的数据量也越来越庞大，文件的大小则是基本是数 十兆字节，有的甚至多达数数千兆字节【4 1 。单个数据文件大小的增加，使得同样容 量的服务器空间的条件下，容纳的文件数量减少。网络服务器硬件的增加难以跟 上数据文件的膨胀速度，这样w e b 服务器很快就会产生硬盘与出口带宽等方面的 性能瓶颈。 服务器与客户端的交互模式发生变革，迫切需要一种新的文件存储模式【5 】。随 着个人计算机性能的不断提高和运营商加大投入，对网络环境的不断改善，用户 不再仅仅满足于仅仅地从服务器端下载资源文件，他们开始热衷于分享自己的文 件资源，形成用户间互相传输。最近几年兴起的w e b2 0 技术中，高效率、低延迟 地在用户间形成网络连接，直接进行数据交换变得越来越普遍【6 】。像迅雷r 刀， b i t t o r r e n t 引、e m u l e 9 1 、p p l i v e 1 0 】等p 2 p 文件传输软件和在线视频播放软件的出现， 表明了当前的网络出口带宽情况已经有了很大的提高，特别是客户端的网络出口 l 电子科技大学硕士学位论文 带宽。这些情况都为用户之间的实时分享提供了硬件上必须的保障。 以上情况都表明随着宽带网络的飞速发展，其应用越来越丰富，使得宽带用 户迅速增加，同时流媒体等在线服务日益受到用户的青睐，但是流媒体数据对于 网络带宽的大量消耗，使得运营商的网络出口带宽资源日渐紧张，q o s ( 服务质量) 也是越来越差。面对这种状况，c d n ( 内容分发网络) 以及p 2 p 传输方式作为传 统的网站加速解决方案，逐步应用到流媒体领域中来，通过其多点网络架构中的 负载均衡策略和内容路由的技术，很好的分解了大规模并发用户的数据流量对于 全国骨干网络的冲击，使得现有网络达到最优的服务质型1 1 】。 c d n 的全称是c o n t e n td e l i v e r yn e t w o r k ，即内容分发网络。其目标是通过在 现有的网络中增加一层新的应用架构，将网站的文件内容发布到最接近用户的网 络“边缘 ，使用户可以就近访问到请求的数据，解决网络出口带宽的拥塞的状况， 降低用户访问网站的响应延迟【1 2 】【1 3 】。从根源上基本解决由于网络出口带宽很小、 用户访问量巨大、网点位置分布不均匀等原因造成的用户访问网站响应延迟很大 的问题。从大的方面来说，内容分发网络代表了一种基于质量和秩序的网络服务 模式，它是能在传统的互联网发布媒体数据而特别改进的网络覆盖层( n e t w o r k o v e r l a y ) 【1 4 】。c d n 是一个按照相关策略进行部署的分布式系统，包括内容管理、 请求的重定向、负载均衡策略、内容分布式存储等4 个要件，而全局的网络流量 管理( t r a f f i cm a n a g e m e n t ) 和负载均衡是内容分发网络的核心所在【1 5 】【1 6 】。 p 2 p ( p e e rt op e e r ) ，即对等计算或者对等网络，简称为p 2 p ，可以简单地定义 成通过直接交换传输来共享计算机资源和文件【1 刀。在p 2 p 网络环境中，数百万台 彼此连接的客户端都处于同等的地位，整个p 2 p 网络一般来讲不依赖于专用中心 服务器。网络中的每一台计算机既能充当服务的提供者，又能对其它计算机做出 请求【1 8 1 。通常这些内容包括：文件共享与文件交换、c p u 资源( 如c p u 的共享) 、 存储资源( 如缓存和磁盘空间的使用) 等。 1 2 本文的工作内容与创新 通过对当前流行的在线流媒体直播点播系统以及p 2 p 下载工具的调研，再根 据项目提出的背景与应用场景，重新设计并实现了基于p 2 p 结构化覆盖网络的分 布式内容分发网络( p 2 pm e d i as t r e a md e l i v e r y n e t w o r k p p s d n ) 。本系统来源于发 改委中国下一代互联网示范工程( c n g d “基于弹性重叠网络智能节点的研制 课 题，北京市科委“基于下一代互联网关键技术研发及产业化推进 项目课题“口v 6 2 ， 0 k 咯 q 本文系统的研究了基于p 2 p 技术的网络流媒体分发网络技术，深入探讨了实 际网络环境下的流媒体分发网络系统负载均衡策略设计与实现，并做出如下贡献： 1 提出一种基于p 2 p 技术的流媒体分发网络，采用了混合式的流媒体分发体 系结构来提供大规模在线视频直播点播服务。 2 设计并实现该流媒体内容分发系统负载均衡控制的子模块。 3 在实际的大规模、高并发、大用户数的内容分发网络环境下，采集数据， 。 分析系统，设计采用合理的负载均衡策略，降低系统负载，提高资源效率，提高 用户体验( u s e re x p e r i e n c e ) 。 1 3 本文内容与结构 熏 本文主要是介绍基于p 2 p 的流媒体内容分发系统的负载均衡策略，以及设计 与实现实际运行的线上系统。本文的组织结构如下： 第一章，主要介绍了当前的研究背景，以及课题相关背景、并针对相关背景 指出当前流媒体内容分发网络研究过程中存在的问题，并总结了工作内容、创新 点以及文章结构。 1 蒲 第二章，在比较传统c d n 网络以及传统p 2 p 网络的基础上，提出一种新的系 统p p s d n ，并简单介绍p p s d n 系统的技术背景以及相关模块，技术等。 第三章，详细的介绍了内容分发网络中的负载均衡技术，并分析不同的负载 均衡策略的优点和缺点。 第四章，主要是p p s d n 相关负载均衡模块的设计，主要包括口模块的设计 和r c 模块的设计，并在此基础上，提出了p p s d n 系统的负载均衡策略。 第五章，对p p s d n 系统进行了测试，包括功能测试，压力测试，以及验证了 负载均衡算法的有效性。 第六章，对全文工作的一个总结以及对进一步研究工作的展望。 3 ， - 专 l 电子科技大学硕士学位论文 第二章p p s d n 系统简介 p p s d n 系统是一个基于p 2 p 技术的流媒体内容分发系统，能为大量用户提供 在线的大规模文件分发、流媒体视频直播、点播服务。系统拥有高可靠分布式内 容存储、检索、高速内容分发和支持大规模并发连接等几项关键技术。 2 1p p s d n 出现的背景 2 1 1 传统的流媒体服务器 目前，我国绝大部分的流媒体网站采用集中服务的方式，即将服务器集中托 管在一个i d c 内，对全国，乃至全球的用户提供统一服务，实行集中式管理。这 种方式在设备管理上有一定的方便性，但是也不可避免地存在一些问题【1 9 1 。 1 服务器处理能力有限 由于集中式服务，服务器必须面对全部的用户，而随着网站的发展，用户数 量的上升，服务器端的压力会越来越大，必须不停的升级硬件或购买新的服务器 设备，同时为了保证7 * 2 4 * 3 6 5 的服务，必须购买热备份设备以及灾难恢复设备。 2 带宽资源有限 集中服务除了给服务器带来压力之外，还会给网站的带宽带来巨大的压力。 网站在购买新的服务器的同时，还要不断地向数据中心购买带宽资源。然而，一 个数据中心的带宽也是有限的，当网站发展到一定的阶段，而数据中心的发展跟 不上时，就必须考虑重新选择数据中心。 3 对用户的q o s 无法保证 尽管网站不断的升级服务器，扩充带宽，仍然有可能出现对有的用户的服务 品质无法保证的情况，问题可能根本就不在网站一边，可能就是因为用户之间的 距离太远，或者是用户与服务器的连接不稳定造成的。如果网站是免费的，这个 问题不是很大，但如果是收费的网站，就可能导致用户气愤之下，不再购买此流 媒体网站的服务，造成网站收入的流失。 4 警 k q k 第二章p p s d n 系统简介 2 1 2 基于c o n 的流媒体服务器 随着宽带网络和宽带网络应用的兴起，c d n 作为一种提高网络服务内容，特 别是流媒体内容传输的服务质量、节省骨干网络带宽的技术，在国内外得到越来 越广泛的应用。c d n 通常被称为内容分发网络( c o n t e n td i s t r i b u t i o nn e t w o r k ) ，或 者是被称作内容传递网络( c o n t e n td e l i v e r yn e t w o r k ) 【2 0 】。一方面，其实内容分发 和传递可以看作是c d n 的两个阶段，内容从源推送到c d n 边界节点的过程以及 用户通过接入c d n 获取内容的过程；另一方面，分发和传递可以看作是c d n 的 两种不同的实现方式，分发强调c d n 作为透明的内容承载平台，传递强调c d n 作为内容的提供和服务平台【2 1 】。随着宽带网络的普及，以及宽带应用的迅速发展， c d n 被认为是一种，能够有效缓解流媒体传输的高吞吐率对骨干网络带宽带来的 压力，同时提升流媒体q o s 的有效手段【2 2 1 。因此，近年来，c d n 得到越来越多的 重视，并在国内外服务商中得到广泛的应用。c d n 的核心思想是将资源从中心推 到边缘靠近用户的地方，这样，不但有效提高了用户访问内容的性能，而且有效 减轻了中心设备和骨干网络的压力。通过c d n ，可以将内容服务从原来的单一中 心结构变为分布式的结构【2 3 】。 从目前已经运营的c d n 网络的情况来看，c d n 对于提高流媒体的q o s ，降 低骨干网络的带宽消耗的作用十分的明显。传统c d n 内容分发网络采用 c l i e n t s e r v e r 模式为用户提供服务，其在为运营商加速流媒体、实现下载、直播和 点播、智能分发和控制等方面，起到了关键的作用，但其基于集中服务器的网络 拓扑结构，对服务器的硬件以及出口带宽要求较高，容易导致扩展成本的增加【2 4 j 。 2 1 3p 2 p 技术 最近几年，p 2 p ( p e e r t op e e r ，对等网络) 技术及应用引起了包括普通网络用 户和科研开发人员在内的越来越多的人的广泛关注。p 2 p 的核心思想是用户之间通 过参与文件的交互传输，来实现信息资源和服务的共享。它强调节点之间的“对 等性”，即系统中的每个参与节点兼有上传者与下载者两种身份，在利用其它节点 上的资源和服务的同时，也为其它节点提供服务【2 5 1 。 基于p 2 p 模式的内容分发技术，则将互联网应用从集中处理模式转变出来， 使其不再依赖于有强大硬件处理能力和高出口带宽的服务器端设备【2 6 】。利用多个 普通客户端计算机的共享计算资源，满足应用对高带宽、强i o 能力、强大处理性 能的计算资源要求，这就使得p 2 p 系统的服务能力能够随需求的增长而自然增长， s 电子科技大学硕士学位论文 具有非常好的可扩展性，能够解决传统客户机朋艮务器结构中服务器过载和资源瓶 颈问题【27 1 。另一方面，p 2 p 系统可采用加入节点自组织的方式工作，可以工作于 无中心纯分布式结构，并且节点随机加入和退出的动态性上具有很好的自适应性， 因而在容错性、数据可用性和防攻击方面具有不可替代的优势【2 8 1 。随着全球宽带 技术的发展和网民数量的剧增，p 2 p 所倡导的分享与协作的理念，将会被越来越多 的网络人群所接受，而p 2 p 技术所带来的潜力巨大的新兴市场，也将成为众多的 i t 企业激烈争夺的制高点。 2 1 4 基于p 2 p 的c d n 技术 由于传统流媒体服务器和基于c d n 的流媒体服务器都具有集中控制，负载压 力大，系统扩展成本高等缺点这两种方案均已经不能满足数目急剧膨胀的用户的 体验需要于是将c d n 技术和p 2 p 技术相结合的新系统出现了【3 5 1 。 把传统的c d n 技术和p 2 p 技术结合起来，形成新的资源定位算法和内容路由 议，把p 2 p 的数据可用性和c d n 的方便管理和服务质量保证相结合起来，在国内 外都是一个创新。p p s d n 就是这样一个系统。 在p p s d n 中，客户端也支持标准的b t 协议下载，当用户从i c pp o r t a l 得到 t o r r e n t 种子文件之后进行标准b t 流程下载。对此，如果e s d 存储了智能发布模 块发布的以b t 形式存储的内容，p p s d n 系统也支持c d n 客户端和第三方标准 b t 客户端( b c ，b s ) 的下载，此时，e s d 作为一个b t 的种子提供数据服务。这 样就为普通用户提供了更方便的服务，他们不用下载专门的客户端程序就可以享 受我们的服务提高的系统的可扩展性。和易用性。 2 2p p s d n 的特点 p p s d n 主要具有以下特点： 1 支持海量内容存储，以及内容的分发功能，提供客户下载； 2 多层、结构化、p 2 p 重叠覆盖网络结构： 3 支持b t 、x u n l e i 、e m u l e 等主流p 2 p 协议及定制协议： 4 高可靠资源存储、分布式资源检索定位： 5 支持大量用户的连接： 6 高效的p 2 p 传输策略： 6 一 i j p r 一 一 第二章p p s d n 系统简介 2 3 几种视频分发方案的比较 k 皤 k 2 3 1p 2 ps t r e a min g 直播 p 2 ps 饥蜘【3 6 】直播，利用的是p e e r 节点的带宽和内存缓存资源协助视频源 进行数据转发，网络结构具有高扩展性和弹性可以支持超大规模( 1 0 0 万级以上) 的用户在线观看以终端进行视频在线直播点播的方式提供服务 2 3 2 传统的c d n 点播 传统的c d n 系统中，虽然也把内容资源推到了离用户最近的网络边缘【3 7 】，但 是用户下载的时候，也是通过传统的c s 模式进行，还是存在集中服务的瓶颈，而 且服务器会把同一个内容资源，多次传输给所有请求该资源的客户这种方式造成 了网络资源和服务器资源的极大浪费，提供的系统的扩展成本 一 2 3 3p p s d n 点播 飘“ 在p p s d n 中，客户端和e s d 间的数据传输是通过p 2 p 的方式进行的，在用户 请求的时候，所有下载、拥有被请求的内容资源的客户端和服务器将形成一个p 2 p 。 网络进行数据的相互传输理论上，e s d 只需要传输一个完整的内容资源副本就可 以满足所有用户的请求这种方式有效降低了网络i o 和e s d 的负载，提高了系统 整体性能和用户请求响应速度 帮? 2 3 4 普通c d n 点播和p p s d n 点播的区别 表2 - 1 性能区别 普通c d n 点播p p s d n 点播 功能 一h t m l 文件加速 _ s e r v i c ep r o x y 一s t r e a mm e d i a 加速 s o u r c es e a r c h _ s e r v i c ep r o x y 大文件内容的分发下载 分发节点部署位置全国及省骨干节点一全国及省市骨干节点 m cd c p e c r 文件分发方式e ，s 或p 2 s p p 2 p 7 l 电子科技大学硕士学位论文 对主流p 2 p 应用支持。不支持支持 可扩展性不好很好 占用网络资源很大较小 瓶颈服务器数量和服务器端的i ，o 吞系统的可扩展性非常好( 可支持 吐量( 目前主流系统数十万并发)百万和千万级并发) 2 4p p s d n 的模块介绍 p p s d n 内容分发平台构成如图2 1 所示。 图2 - lp p s d n 内容分发平台组成 p p s d n 内容分发平台主要构成如表2 - 2 所示。 表2 - 2p p s d n 内容分发平台构成 模块名称 功能简述 内容发布模块 实现将内容从发布到多个域的功能，实现内容的打包和可靠传输 p 2 p 服务模块对于已发布的内容，服务器向客户端提供目录管理和基本的数据传送服务 业务管理模块提供e p g 服务，管理用户的预约任务 系统管理模块管理系统设备和运行状态，设定业务策略；用户行为统计分析 客户端模块包括p c 客户端和机项盒客户端，实现节目的搜索、选择和播放 8 中 氐 q 2 4 1lp 模块 图2 2p p s d n 部署图 i p ( i n t e u i g e n tp u b l i s h ) 模块是整个p p s d n 系统的中心调度模块，负责和c m s 通信，处理c m s 的资源发布，资源删除等请求，全局规划e s d 服务器的负载均 衡，并可以根据本地缓存信息主动恢复e s d 上损坏的以及未完成的内容。它在发 布文件时分为两种模式：p u s h 模式和p u l l 模式。p u s h 模式是在p p s d n 智能发布 系统中，在指定的端口监听运营商c m s 的连接，并从c m s 那里获取发布任务， 根据从r c 获得的e s d 状态信息进行决策，选择发布到e s d 的一个子系统。p u l l 模式是在原来p u s h 的基础上新加入了p u l l ( 缓存) 机制，由r c 定时通过心跳报 文向t r a c k e r 探测下载热度值排在前面的域，口定时去轮询这些信息，获得信息后 做出策略决策，是否需要在超过热度阀值( 在i p 配置文件中配置) 的域增加新副本 并完成副本新增的操作。 i p 采用多线程的系统框架，上层主线程利用e p o l l 作为异步事件通知机制，处 理和各个模块的协议通信和解析以及数据库操作，从f t p 下载以及做种都是在另 外的单独的线程里面进行。由于数据库操作不会很频繁，而且是利用一个长连接 操作数据库，因此数据库操作也放在主线程里面进行，而不会对性能造成太大影 响。 9 电子科技大学硕士学位论文 与口交互的模块有c a ，p p m ，r c ，e s d ，f t p 。i p 和c a 交互是获得用于 发布认证的s e s s i o n i d ；和p p m 交互是接受p p m 的发布或者删除节目的命令；和 r c 交互是获取e s d 地址列表和汇报下载结果；和e s d 交互是发送发布或删除命 令，以及节目数据传输；和f t p 交互是下载指定的节目到本地进行做种。 口的主要功能有三个方面：发布，删除和灾难恢复。 1 发布，包括p u s h 发布和p u l l 发布。正在发布，发布失败和发布成功的节目 的信息存放在口的数据库中，包括i n f o h a s h 和存放该节目的e s d 地址列表等信息。 d 上有两个数据库表，分别用来存放p u s h 发布和p u l l 发布的节目信息，分别用来 存放管理员主动发布的节目信息和热度触发的缓存节目信息。 2 删除，接收p p m 的命令，向r c 发送停止服务的命令，并删除e s d 上存 放的节目。 3 灾难恢复，e s d 出现人为或者机器故障导致节目数据丢失的时候，口会启 动灾难恢复。e s d 发送自己所有的节目信息和类型( p u s h p u l l ) ，i p 将信息和数据 库存的信息做比较。对于p u s h 发布的节目，如果口中没有，e s d 上有，那么向 e s d 发送删除命令；如果是m 上有，e s d 上没有，那么向e s d 发送发布命令， 再次发布此节目。对于p u l l 发布的节目，如果口中没有，e s d 上有，向e s d 发 送删除命令。如果m 上有，e s d 上没有，那么删除口数据库中的此节目信息。 2 4 2c r 模块 c r ( c o n t e n tr o u t e r ) 模块在p p s d n 系统中为用户提供内容定位的子系统。用户 通过c r 可以搜索定位资源，下载内容。 c r 采用和e s d 类似的系统框架，区别在于e s d 的线程池是进行磁盘i o ，而 c r 的线程池是进行数据库操作。c r 是p p s d n 系统向c l i e n t 展现的入口，访问压 力会比较大，因此数据库的访问采用线程池来模拟异步操作，而不用阻塞主线程， 这种框架在c r 中是很合理的。 与c r 交互的模块有c a ，r c 和c l i e n t 。和c