数字视频在线存储的优化设计分析

1、数字视频在线存储的优化设计分析     河南电视台都市频道技术部 王虎2005年中南地区电视技术年会优秀论文二等奖 简介    本文通过分析数字视频在线存储的相关技术，分别从在线存储的模式、存储容量、读写带宽、高可用性和磁盘分区等五个方面详细分析了在线存储的优化设计，并结合河南电视台都市频道节目制作网的在线存储设计来说明在线存储设计的优化方式及步骤关键字数字视频  在线存储  优化设计一、前言    在广播电视领域，过去、现在，还是将来

2、，存储都是人们在讨论的一个永恒不变的话题。因为我们知道，无论是使用传统录放机进行一对一或多对一的节目编辑、还是使用非线性网络进行非线性编辑，我们操作的对象都是媒体数据，而这些媒体数据都离不开存储，所以说存储是整个系统的核心，这里所说的存储指的是在线存储。然而在线存储不单纯是服务器主机内配置几块硬盘，或者是主机通过SCSI数据线连接一个硬盘阵列。而其应该是一个系统，在这个系统中，有很多相关因素和技术存在，比如存储模式、存储容量、读写带宽、高可用性、可扩展性、可>' target='_blank' class='infotextkey'>管理性等

3、等。针对这些情况，优化设计数字视频在线存储已经是很多电视台需要考虑的一个现实问题。二、在线存储优化设计分析（一）在线存储模式的优化设计    目前磁盘存储市场上，存储分类（如下表一）根据服务器类型分为：封闭系统的存储和开放系统的存储。封闭系统主要指大型机，比如AS400等服务器。开放系统指基于包括Windows、UNIX、Linux等操作系统的服务器；开放系统的存储又分为：内置存储和外挂存储；开放系统的外挂存储根据连接的方式分为：直连式存储（Direct-Attached Storage，简称DAS）和网络化存储（Fabric-Attached Stor

4、age，简称FAS）；开放系统的网络化存储根据传输协议又分为：网络接入存储（Network-Attached Storage，简称NAS）和存储区域网络（Storage Area Network，简称SAN）。表一：目前磁盘市场的存储分类    电视台的非线网络用到的存储基本上都是属于开放系统的存储，所以对于封闭系统的存储，在这里就不加以说明和比较。从表一中我们可以看出，开放系统的存储又分为内置存储和外挂存储。内置存储就是我们通常说的在主机内插入一块或几块硬盘。    这种存储的缺点很明显，一是由于机箱空间的限制，

5、不能插入更多的硬盘，这样在存储容量上就不能满足工作的需要；另外就是机箱内没有专门的通风设施，硬盘的工作环境恶劣。所以数字视频的存储一般也不采用内置存储模式。    目前，数字媒体的在线存储一般都采用外挂存储的存储模式，即：直连式存储（DAS）、存储区域网络（SAN）、网络接入存储（NAS）。这三种存储模式的系统结构如图一所示：1、直连式存储（DAS）    开放系统的直连式存储（Direct-Attached Storage，简称DAS）已经有近四十年的使用>' target='_blank&

6、#39; class='infotextkey'>历史。DAS是指将存储设备通过SCSI接口或光纤通道直接连接到一台计算机上。    在电视台刚开始使用单机非线编时，DAS是主要采用的模式。比如单机版的广告串编系统、单机版的非线性编辑等。但是随着非线性网络的建立，媒体数据的不断增长，尤其是现在的存储容量要求在数百GB，甚至数TB以上时，DAS在备份、恢复、扩展、灾难备份等方面的问题日益困扰系统>' target='_blank' class='infotextkey'>管理员，成为

7、系统的瓶颈。DAS存在的主要问题和不足是：（1）直连式存储依赖服务器主机操作系统进行数据的I/O读写、存储、维护>' target='_blank' class='infotextkey'>管理，数据备份和恢复要求占用服务器主机资源（包括CPU、系统I/O等）。（2）直连式存储与服务器主机之间的连接通道通常采用SCSI连接，带宽为10MB/s、20MB/s、40MB/s、80MB/s等；随着服务器CPU的处理能力越来越强，存储硬盘空间越来越大，阵列的硬盘数量越来越多，SCSI通道将会成为I/O瓶颈；服务器主机SCSI ID资源有限，能够建立的

8、SCSI通道连接有限。（3）无论直连式存储还是服务器主机的扩展，从一台服务器扩展为多台服务器组成的群集(Cluster)，或存储阵列容量的扩展，都会造成系统的停机，从而给工作带来不便。2、存储区域网络（SAN）     存储区域网络（Storage Area Network，简称SAN）采用光纤通道（Fibre Channel）技术，通过光纤通道交换机连接存储阵列和服务器主机，建立专用于数据存储的区域网络。SAN经过十多年>' target='_blank' class='infotextkey'>历史

9、的发展，已经相当成熟。SAN存储采用的带宽从100MB/s、200MB/s，发展到目前的1Gbps、2Gbps。 SAN的优点有以下几个方面： （1）SAN提供了一种与现有LAN连接的简易方法，并且通过同一物理通道支持广泛使用的SCSI和IP协议。SAN不受现今主流的、基于SCSI存储结构的布局限制。特别重要的是，随着媒体数据的爆炸性增长，SAN允许独立地增加它们的存储容量。 （2）SAN的结构允许任何服务器连接到任何存储阵列，这样不管数据置放在哪里，服务器都可直接存取所需的数据。因为采用了光纤接口，SAN还具有更高的带宽。 （3）因为SAN是从基本功能剥离出存储功能，所以运行备份操作就无需考

10、虑它们对网络总体性能的影响。SAN也使得>' target='_blank' class='infotextkey'>管理及集中控制实现简化，特别是对于全部存储设备都集群在一起的时候。3、网络接入存储（NAS）    网络接入存储（Network-Attached Storage，简称NAS）采用网络（TCP/IP、ATM、FDDI）技术，通过网络交换机连接存储系统和服务器主机，建立专用于数据存储的存储私网。NAS的优点有以下几个方面：（1）即使相应的应用服务器不再工作了，仍然可以读出数据。（2）简易服

11、务器本身不会崩溃，因为它避免了引起服务器崩溃的首要原因，即应用软件引起的问题。4、SAN和NAS的比较通过以上的分析，我们可以看到SAN和NAS存在下面的区别：SAN：通过专用光纤通道交换机访问数据，采用SCSI、FC-AL接口。     NAS：用户通过TCP/IP协议访问数据，采用业界标准文件共享协议如：NFS、HTTP、CIFS实现共享。     NAS和SAN最本质的不同就是文件>' target='_blank' class='infotextkey'>

12、管理系统在哪里。如图二所示： 由图二可以看出，SAN结构中，文件>' target='_blank' class='infotextkey'>管理系统（FS）还是分别在每一个应用服务器上；而NAS则是每个应用服务器通过网络共享协议（如：NFS、CIFS）使用同一个文件>' target='_blank' class='infotextkey'>管理系统。换句话说：NAS和SAN存储系统的区别是NAS有自己的文件系统>' target='_blank' class

13、='infotextkey'>管理。 （二）在线存储的存储容量优化设计     我们知道，在建立一个非线性编辑网络之前，我们用户要和开发商共同协商写出一份可行的实施方案。在这个方案中，存储容量是作为设计存储的一个关键要素考虑的，因为在线存储设备及周边的一些设备都是价格不菲。存储容量设计过小，将来遇到栏目增加的情况时，就会影响到工作。到那时唯一可以做的就是考虑容量升级的问题，这样即浪费了钱财和人力，又给工作带来许多不便。相反，容量设计过大，就会造成资源的浪费，增加>' target='_blank' cl

14、ass='infotextkey'>经济开支。所以在设计在线存储时，存储容量也是必须要进行优化设计的。存储容量有总容量和有效容量的概念。总容量就是指所有硬盘的容量之和，而有效容量是在总容量的基础上减去做冗余技术的空间和磁盘分区占用的空间。当然，用户最关心的是有效容量。同时，在电视台应用中，还存在“片比”和“节目保留时间”的概念：原始素材的大小是成片的几倍；新闻类节目保留时间是一周左右，而制作类节目会更长，这就对存储系统的初始容量、后期容量扩充能力提出了很高的要求。     优化在线存储的存储容量设计时，要从以下几个方面考虑： （1）

15、首先要确定素材的码率，然后根据码率计算出一小时的素材占用的存储空间。比如素材上载时的码率是30Mbps，则一个小时的素材占用的存储空间就是：30Mb/s×3600s/8/1000=13.5GB（2）根据电视台现有的节目及节目时长、播出频率、片比、节目保留时间确定总体存储容量。如表二，是河南电视台都市频道在建立非线性节目制作网时，根据本频道的节目情况，确定的总体容量需求表（码率为50Mbps，1小时的素材量为24GB）。栏目 名称 成品带 （分） 素材带（分） 说明 最大上载 时长（分/小时）最大存 储量（GB）导视 2040一天8档，时间总长是20分钟，最多一次作4天的节目40/0.

16、717都市有约 2060一星期一期节目，每期节目包括专题、新片介绍、下周影视介绍及主持人 60/124情景剧场 4560星期一到五，每天一期，最多一次作4期节目240/ 496经典回放 90110每天两集，两盘带的时长加上最多10分钟的广告，最多一次作4集节目220/3.789都市剧场 104130每天两集，两盘带的时长加上最多15分钟的广告，最多一次作4集节目260/4.3103子夜剧场 100120每天两集，最多一次作4集节目240/496往事 3645每星期除星期二以外每天一期，最多一次作4期节目180/372周末剧场 90120每星期六一期 120/248杨澜访谈 2540每星期天一期

17、 40/0.717乐海冲浪 2060每天一期，包括MTV、主持人、新闻、广告，最多一次作3期节目180/372音乐早餐 5060每天一期 60/124体育界 3035每天一期，广告1分钟35/0.614都市逍遥 10/1660星期一到五每天一期10分钟，星期六、星期天每天一期16分钟，最多一次作3期节目60/124星登陆 30120每星期一期 120/248智多星 3050每星期三期，每次录6期，150/2.560大舞台 4060每星期一期 60/124总体需要有效容量 828    从表中，可以清楚的看出建立的网络需要多大的存储空间，考虑到今后节目有可

18、能增加及一些专题片的需要，最后确定在828GB的设计容量基础上再增加一倍的存储容量，即大约为1.7TB的有效设计容量。（三）在线存储读写带宽的优化设计    在线存储的容量满足后，就要考虑存储的读写速度是否满足所有工作站同时访问数据的需求。如果设计的存储读写带宽无法满足整个网络满负荷的工作需要，就有可能出现读写数据不流畅，严重时会造成网络堵塞，服务器无法在正常时间内响应。所以在优化设计在线存储读写带宽时要充分结合实际需要来确定在线存储的读写带宽。主要从一下几个方面考虑。（1）根据网络中工作站的数量，来确定共享硬盘阵列读取压力和写入压力。比如一个非线性编辑

19、网络中有m台工作站，其中有n台上下载工作站，素材码率是50Mbps并且工作站采用的是双通道工作方式。则可以计算出：共享硬盘阵列的读取压力：即m台有卡工作站同时访问带宽的极限要求为50×m×2/8 MBps；共享硬盘阵列的写入压力：即n台上载工作站同时上载素材的最大写带宽压力为：50×n/8 MBps。（2）根据读取压力和写入压力来设计在线存储的读写带宽。（四）在线存储高可用性的优化设计    我们在优化设计在线存储时，还必须考虑到媒体数据的安全问题，也就是高可用性。为了达到在线存储的高可用性的要求，就需要在各个环节上考虑到冗

20、余技术。冗余就是重复配置系统的一些部件，当系统发生故障时，冗余配置的部件介入并承担故障部件的工作，由此减少系统的故障时间。冗余系统配件主要有：磁盘、I/O卡、电源、风扇等。1、磁盘冗余    磁盘是非线性编辑网络中在线存储最关键的部分，因为一旦磁盘出现问题，就会造成素材丢失，影响到工作。所以，为磁盘配置合适的冗余尤为重要。    目前，各家电视台基本上都搭建了非线性编辑网络，大部分网络的硬盘阵列都是做了带区集。带区集就是我们通常说的RAID 0技术，它是由多个硬盘并发协同工作完成数据的读写，数据被均匀分布在各个硬盘

21、上，一般情况下，使用的硬盘越多，读写速度越快。    RAID 0的特点是（1）读写速度快，这个特点能更好满足非线性编辑网络对速度的要求；（2）价格便宜，因为带区集是通过操作系统自带的软件功能实现的，所以不需要再购买额外的其它设备，这也是带区集被广泛采用的一个原因。但是带区集给硬盘带来的不安全因素也是致命的，因为RAID 0中的一个硬盘出现故障时，整个阵列的数据将会丢失，虽说带区集信息可以保存在软盘上，可以随时恢复带区集信息，但是在保存带区集信息那一时刻以后的数据就无法恢复了。同时，RAID 0对硬盘阵列中的硬盘数量也是有限制的，一般最多不超过32个硬盘

22、。    为了改善RAID 0的缺点，有人提出用RAID 0+1。RAID 0+1是RAID 0和RAID 1的组合，即由两个完全相同配置的RAID 0形成镜像关系，这样，即提高了阵列的读写速度，又能保障阵列数据的安全，但是，RAID 0+1方式的有效容量只有所有硬盘物理容量一半。而且，在技术人员的实际测试中发现它的速度和稳定性都不太理想。    实践证明，RAID 3是硬盘阵列安全策略中最合适的一种。RAID 3是把数据分成多个“块”，按照一定的容错算法，存放到N+1个硬盘上，实际数据站用的有效空间为N个硬盘的空

23、间总和，而第N+1个硬盘上存储数据的校验容错信息，当这N+1个硬盘中的其中一个硬盘出现故障时，从其它N个硬盘中的数据也可以恢复原始数据，这样，仅使用这N个硬盘也可以带“伤”继续工作。当更换一个硬盘后，系统可以重新恢复完整的校验容错信息。由于在一个硬盘阵列中，多于一个硬盘同时出现故障的概率很小，所以一般情况下，使用RAID 3的安全性是可以得到保障的。由于RAID 3在向阵列中写数据时需要使用校验容错算法，并把数据分成“块”，再写到物理硬盘中，增加了软硬件的开销，所以和RAID 0相比，RAID 3的速度相对较慢，但比RAID 0+1的速度要快。    下

24、面我们选用8块36G的硬盘，选用SANerge作为测试工具，分别对其做带区集、RAID 0+1和RAID 3的测试结果如表三所示：    从测试结果我们可以看出，RAID3虽然读写速度都不如硬盘带区集，但其有良好的容错和稳定性，当然在价格上肯定要比带区集昂贵。2、I/O卡冗余    对服务器来说，I/O卡冗余主要指网卡和硬盘控制卡的冗余。网卡冗余是在服务器中插上双网卡。冗余网卡技术原为大型机及中型机上的技术，现在也逐渐被PC服务器所拥有。PC服务器如Micron公司的NetFRAME9200最多实现4个网卡的冗余，

25、这4个网卡各承担25的网络流量。康柏公司的所有ProSignia/Proliant服务器都具有容错冗余双网卡。3、电源和风扇的冗余    高端服务器产品中普遍采用双电源系统,这两个电源是负载均衡的,即在系统工作时它们都为系统提供电力,当一个电源出现故障时,另一个电源就承担所有的负载。风扇的冗余也是很有必要的。（五）在线存储磁盘分区的优化设计    系统全部搭建结束后，就要对硬盘空间进行分区>' target='_blank' class='infotextkey'>

26、;管理。不要以为硬盘空间分区是一件无所谓的事情。因为根据以往的经验，合理的分区可以对数据访问带宽、数据安全等方面都有很多帮助，同时还能使系统的>' target='_blank' class='infotextkey'>管理清晰，功能明确。所以对在线存储磁盘分区也要进行优化设计。    在线存储按照功能划分卷的一个最大好处是有利于数据的安全性。我们知道，整个网络系统的用户端对硬盘系统的访问是通过媒体数据控制服务器或文件服务器上的逻辑卷进行映射获得。如果没有合理的分卷，则所有用户都可以访问到所有的在线数据

27、资源。这对数据安全是极其不利的。例如，我们为低码率素材单独划分一个卷，所有桌面终端仅能通过低码率服务器访问到该卷的低码率素材，而存放在其他卷上的高码率素材则不能被桌面终端访问到，如果低码率和高码率素材在同一个卷上，则任何桌面终端可以访问甚至删除准备播出下载的高码率素材。    另外，合理地分卷>' target='_blank' class='infotextkey'>管理可以把某个卷通过存储系统的配置软件让>' target='_blank' class='inf

28、otextkey'>管理员赋予某些用户终端一定的访问权限，而屏蔽其他用户终端的访问权。这种存储端的分配方式并非用户终端的应用软件或操作系统所能修改的。因此，即使所谓的“电脑高手”也不能破坏和修改不属于他访问范围的数据，从更高的层次保护数据安全。三、河南电视台都市频道节目制作网在线存储设计分析    河南电视台都市频道节目制作网是由成都索贝数码科技股份有限公司研发、集成的。于2003年11月正式投入使用。该制作网络系统是一个具有信号收录、演播室上载、节目资料共享、视音频制作的全数字环境的智能化、自动化的数据化制作网络系统，它能支持河南电视台都

29、市频道节目制作业务的运转，并承担大部分节目生产任务。系统的成功建设实现了节目素材（包括收录、自采）的共享，充分利用计算机多媒体技术和网络技术，全面提高了频道的制作水平和效率。    在系统实施之前，就在线存储的优化设计问题，我们提出了自己的一些看法，并同公司的技术人员进行了多次的技术论证，后来决定采用非常适合视频共享访问的美国Data Direct公司的S2A3000存储系统。 经过近两年的使用，感觉当初对在线存储的优化设计对我们整个系统的正常运转起到关键的作用。（一）在线存储的系统结构    河南电视台都市频道节

30、目制作网在线存储系统的结构如图三所示：S2A控制器面板接口如图四所示：（二）在线存储的优化设计分析1、S2A 3000产品特点    S2A3000是Data Direct公司的产品。S2A无论从其针对视频的带宽要求还是安全特性方面，都非常适合于目前都市频道节目制作系统的集中在线存储。S2A是Data Direct公司提出的SAN Appliance(存域网络设备)概念的产品，把交换设备、RAID设备、连接设备以及>' target='_blank' class='infotextkey'>管理设备整合

31、为一个统一的整体，为用户端提供一个完全透明的、高性能的、高安全性的以及可>' target='_blank' class='infotextkey'>管理性的存储设备，S2A 3000具有如下一些主要技术特点:（1）高访问带宽：S2A 3000在系统结构中采用了12个内部磁盘通道和8个外部主机通道，其中内部的12个磁盘通道并发工作，为外部数据访问提供极高的访问带宽，外部主机端口用于连接主机或FC交换机，可以使总的外端访问带宽最高可以达到800MB/s。（2）设计独特的DirectRAID技术：S2A中采用了Data Direct公司设计的具有

32、很高性能和安全性的DirectRAID技术，DirectRAID采用了真正字节条带化RAID数据保护，另外所有可用硬盘同时进行读写，保证了即使在单个硬盘出现故障时，性能不会下降。DirectRAID的真正字节条带化RAID方式，无论针对视频流式传输应用还是数据库大I/O应用都可以获得很好的性能。（3）系统的高可用性：    系统提供了完全冗余高速传输控制器（HSTD）：双控制器形成冗余的HSTD对，保障系统数据的完整性和高可用性，HSTD支持热插拔；    冗余的风扇和电源：S2A拥有4个相互冗余的电源和2个相互冗

33、余的冷却风扇。另外每个硬盘塔中同样具有2个相互冗余的风扇。    链路冗余：在S2A中，所有的链路都是对称冗余的，每个硬盘通道通过两个磁盘通道同时和两个HSTD进行连接，避免了链路故障造成的数据访问中断。    磁盘冗余：系统中提供了4+1+1的RAID技术，即每个RAID组中有4个数据盘、1个校验盘、和一个Spare盘，即使单个硬盘出现故障，系统可以自动进行数据热修复。另外，Spare盘可以动态地为所有RAID组提供Spare服务，事实上可以减少Spare盘的数量，从而提高整个硬盘系统的硬盘使用效率。系统采用高密

34、度模块化电缆连接采用高密度电缆，减少了连线数量，从而减少了连线的故障概率。（4）可>' target='_blank' class='infotextkey'>管理性：S2A系统提供了一整套系统>' target='_blank' class='infotextkey'>管理软件，实现系统的集中安全的>' target='_blank' class='infotextkey'>管理方式，这些>' target='_bl

35、ank' class='infotextkey'>管理软件包括：Vlun Manger（虚拟逻辑单元>' target='_blank' class='infotextkey'>管理器），Configuration Manager（配置>' target='_blank' class='infotextkey'>管理器），Firmware Update Manager（Firmware升级>' target='_blank' class='infotextkey'>管理器），Security Manager（安全>' target='_blank' class='infotextkey'>管理器），Performance Manager（性能>'