视频大数据存储平台解决方案.

1、平安城市智慧发展趋势以某市公安局天网工程为例p 海量视频、图像数据的统一存储和快速检索p 多节点集群并行工作，保证数据的高安全性p 后续可根据需要自由扩展p 该市公安局要建设“天网工程”的统一存储系统p 针对案件的所有图像、视频数据（涉案人脸抓拍等），在市局统一汇总，永久存储p 存储公安局重要信息，对系统安全性的要求非常高项目概况p 提供2000TB存储容量p 节点级安全，保证内部重要数据的数据安全解决方案客户需求某市天网工程部署图1、流媒体高清视频文件对高带宽和稳定的需求。2、大数据分析：包含检索数据库和海量视频文件资料，检索数据库主要用来关联带标签的分类主题资料和具体视频文件，使用户能快速

2、检索到对应分类的存储位置。3、云计算虚拟化集群：物理服务器组建成统一的集群计算虚拟机资源池，实现虚拟机的故障转移高可用、负载自动分配资源、对存储高IOPS需求。4、海量小文件空间数据。5、跨多中心分布式广域云架构。平安城市云存储系统五大需求云和大数据增长对象存储占据 90% 云和大数据未来需要新的存储方式4X $50%Daasbank SDS 创新价值 规模更大 成本更低 更安全可靠 什么是SDS超聚合？DStore弹性定义、部署及管理的聚合式云存储平台采用Block/File/Object统一集群存储架构服务器虚拟主机可以有多个vPools，高速缓存和无限快照，统一管理异构数据，支持本地文件

3、系统、NAS、块设备、S3 API兼容的对象存储如Ceph，Swift，AWS，分布式文件系统如GlusterFS，XtreemFS等。无接缝扩充可扩充到数百 PB，无需再做存储空间预估HypervisorDStoreHypervisorDStoreDStoreDStoreSDS-KineticStorage ServerLegacyStorage System依据需求弹性部署DStore提供管理者两种模式混合搭配部署: SDS超聚合存储Kinetic DS分布式存储服务器无缝整合先期投资的传统存储设备，并入成为DStore管理的共享存储资源池Daasbank DStoreShared Sto

4、rage Infrastructure创新的云端服务模式提升运行效率及经济性DStore让管理者可在共享资源池上为每位使用者建立独立的”虚拟存储设备”(Virtual Storage),并提供用户自助服务功能(Self-service Portal)DStore多重用户共享(Multi-Tenancy)”的设计满足不同用户对存储的性能、安全、分段、隔离、监管、及QoS等不同需求SAN NAS S3CIFS/NFSDStore Shared Storage Infrastructurevirtualstoragevirtualstoragevirtualstoragevirtualstorage

5、Dynamic Virtual Storage ProvisioningDStore产品架构KineticDStoreKineticDStoreKineticDStoreWorkloads/ApplicationsVMVMVMWorkloads/ApplicationsVMVMVMWorkloads/ApplicationsVMVMVMDStoreDStoreScale-outInterfaceAmazon S3, WebDAVOpenStack SwiftNFSCIFSiSCSI/FCManagementPolicy Management(Distribution, QoS, Tiering

6、)Monitoring/Alert ReportingAutoRecoveryDistributionObjectDistributionObject Replication Object RebalanceStorageData De-duplicationData CompressionSSD Acceleration采用Block/File/Object统一集群存储架构目标应用类型：所有海量数据扩展存储的客户跨地域数据同步协同：总公司和分（子）公司间跨地域数据同步。数据快速采集、分发：3个副本，分布式部署于不同的Regions。应用1、支持跨地域分布式存储管理应用2 支持云备份容灾归档客

7、户注册、客户注册、计费及管理计费及管理计费计费归档归档云存储系统云存储系统云备份介质云备份介质归档数据存储设备归档数据存储设备门户门户云备份系统云备份系统私有云备份客户端私有云备份客户端云备份客户端云备份客户端云网关云网关特点特点应用3 云存储网盘在家办公在外地出差PC ClientDS ClientDS Client 移动终端移动终端Internet/Internet/专网专网在学校上课在企业办公私有数据中心DS System亚马逊公有云数据中心S3, Glacier应用4 云桌面/云平台/服务器虚拟化VMVMVMVMVMVMVMVMVMVMVMVMVMVMVMVMVMVMHyper-VCo

8、mputeStorageComputeStorageComputeStorage应用5 大数据分析p 有效应对海量小文件存储的难题，降低了网络访问延时，提升用户体验p 独立用户数持续增长，企业收益快速增长p 峰值时间大量用户并发访问，导致数据爆发式增长p 数据为典型海量小文件（15K30K之间），对系统性能冲击很大p 原有的NAS系统在数据读取时性能下降，网站访问延时严重。p 系统要有弹性扩充的能力客户需求p 多个元数据节点集群，提升海量小文件访问时的检索与读取速度，应对前端多用户高并发的访问需求p 通过自动负载均衡技术避免存储热点的形成所带来的访问延迟。解决方案客户价值支援各种存储协议 支持

9、各种存储协议使用包含文件，块级存储(SAN、NAS) 支持对象存储(Object)及云端服务例如: S3、Swift和WebDAV云端Amonzon S3OpenStack SwiftWebDAV文件协议File-based块设备Block-Level数据存储效率藉由SSD做到数据存储分级，提升整体数据效率利用多种储存技术优化存储方式，包含快照(Snapshot)、重复数据删除(De-duplication)、数据压缩(compression)、自动精简配置(Thin provisioning)跨节点的纠删码技术有效提高存储使用率及安全性ThinProvisioningDataDeduplic

10、ationSSD CachePrimary StorageApplicationWorkloadErasureCodeN+M的纠删码技术 对于有n个数据节点的存储集群而言，原始数据仅需保存一份，并通过就删码的方式额外保存m个校验码，即可确保在损坏节点数不超过m个节点的前提下，确保数据的安全性。而整体的存储空间容量就是n+m个节点。如果是副本机制要达到同样的安全级别，节点数需要达到m*n个，因此针对大容量数据存储，纠删码是一个非常有效的节约成本的存储方案。N+M的纠删码方案，确保任意损坏1-M台物理节点，数据依然可确保安全。数据的安全性及可靠性利用集群(Cluster)的架构提供数据副本选项(2

11、10份)，提供资料的高可用度，针对网络环境提供IP takeover、DNS Round-robin的机制，确保服务的高可用性云存储11个9的耐用性.适用于私有、公有、混合云环境。支持N+1集群、多站点容灾备份，可实现IDC多机房跨广域网分布式部署。Real-time Data Replication功能确保资料的一致性资料自我修复(Self-healing)及自动复原(Auto-Recovery)机制，确保资料可靠性存储资源池的管理性与兼容性去中心化(De-centralized)管理设计使每一存储节点皆能提供管理界面， 简化管理复杂度简易的安装及Plug-&-Play布署 方式，能在服务不下线的同时在同一丛集中从数 个节点扩充至数百节点提供Storage Management API，让使用者容易整合既有的IT管理环境先进的监视模块及告警系统，随时随地保持储存系统的最佳况状Plug-and-Play机架产品规格优势总结更低的成本比采用磁盘阵列和存储服务器构建数据中心时可获得更低的资本支出。客户可在相同物理空间分配更多存储容量。更少的人力减少维护磁盘阵列和存储服务器所需的运维工程师数量。此外，该平台支持的更密集存储可潜在减少通常数据中心需要雇用的运维工程师数量，实现重大劳力节省。更低的能耗 消除磁盘阵列和存储服务器层，并结合更高效的机架密度，以更少机架支持相同数