CeresData技术产品和方案

CeresData 技术、产品和方案,2009年1月,已有客户与成功案例,东方物探地震资料处理HPC存储 辽河油田地震资料处理HPC存储 南阳油田地震资料处理HPC存储,国防 科研,石油 勘探,大型 企业,总参海量图像处理存储与容灾 总参视频内容交换与迁移平台 国防某单位Email监控数据库存储 军事医学科学院数据中心,西安飞机设计院集中备份存储 沈阳航空设计研究所CAD/PLM存储 中国航空工业集团数据中心 成都飞机工业公司数据中心,金融,央行货币清算中心 阿里巴巴清算中心 安徽电信计费系统 招商银行备份系统 华夏银行邮件系统,北京天文馆大规模3D动画制作平台 湖南电视台高清包装制作网存储 北京电影学院数字制作平台 北京电视台海量视频集中存储 中央电视台数字媒体馆 安徽电视台媒资,广电 动漫,3,CeresData的统一存储体系结构模型,不兼容的孤岛,兼容的家族,平台,竞争厂家,CeresData,4,CeresData的模式如何体现价值,统一的: 硬件 降低成本 软件 降低复杂性 流程 降低风险,5,第三方VTL,为整个数据中心增加价值,CeresData存储,数据中心 存储网络,其他厂商的存储,备份 服务器,D-Fusion系列 和PRODIGY,D-Fusion网关 和PRODIGY,服务器,磁带,PRODIGY 管理系统,6,可缩放的存储,全球命名空间 透明的数据迁移 集中化管理 故障管理 “无限的” 可缩放的虚拟化层,PRODIGY,DF3000 Technical Specifications,DF3800 System,DF8000 Technical Specifications,DF8000 System,X,软件集：满足高级数据管理和保护需求,iSCSI,FCP*,CIFS,NFS,支持多种协议, 适用于混合的异构环境,基于磁盘的 备份恢复,分级存储管理,法规遵从,远程容灾,高可用 故障转移,病毒扫描,自动精简配置,自动动态归档,GUI统一管理,数据保护,数据管理,MagicShot,HA Cluster,MagicMirror,MagicLock,MagicScan,MagicVol,MagicMover,MagicArchive,Prodigy Viewer,10,CeresData核心竞争技术,D-Fusion 统一网络存储 全对称的系统架构 PRODIGY集群文件系统 高性能集群存储 RAID 空间管理 本机时间点备份 多功能数据拷贝 非对称容灾 去复本技术 WORM文件 管理维护,11,CeresData核心 大技术,统一网络存储 同时支持NAS/iSCSI/SAN 满足文件/数据块的不同访问要求 全对称的系统架构 线性扩展的系统性能。 永远在线的系统。 RAID 6 业内最先进的高可靠磁盘冗余技术，可以实现任意双盘故障保护 MagicVol 先进的小储量预备技术，空间任意伸缩，动态占用 有效提高空间利用率达60-80% MagicShot 零拷贝模式，绝对无损性能 MagiClone 快速实现数据多功能应用,6,企业解决方案,13,关键业务系统 纯CeresData模型,500m,100km,单机模型,集群模型,园区容灾模型,同城容灾模型,14,关键业务系统 纯CeresData模型,MagicMirror,MagicMirror w/ WORM,MagiClone,MagicMover MagicArchiver,VTL,磁带库,HPC Options,15,存储整合系统,NearStore,VTL,磁带库,研发部,MagicDedupe,MagicShot MagiClone,市场部,Anti-Virus,MagicMovier,MagicLock,MagicArchive,Prodigy Viewer,MagicMover,16,远程集中系统,MagicMover,MagicMirror,D-Fusion,MagicArchiver,MagicMirror,17,异构存储解决方案,存储管理：D-Fusion存储网关 备份恢复：NDMP 文件管理：全局命名空间,统一网络存储,19,存储技术名词解释,直联存储 DAS Direct Attached Storage 网络连接存储 NAS Network Attached Storage 存储区域网络 SAN Storage Area Network iSCSI iSCSI Internet SCSI,20,四种存储构架DAS、SAN、iSCSI、NAS,DAS,NAS,NFS, CIFS,应用服务器,文件系统,SCSI,FC Switch,Ethernet Switch,应用服务器,应用服务器,SAN,应用服务器,文件系统,Ethernet Switch,iSCSI,应用服务器,文件系统,21,DAS 起源 大型主机（Mainframe）,时间：80年代 最早应用于大型封闭主机，相关外部设备价格昂贵 一个存储磁盘阵列只能提供有限的几个端口，连接到若干台主机，数据无法共享 存储磁盘阵列本身难以扩展,主机群,磁盘 阵列1,磁盘 阵列2,磁盘 阵列3,22,SAN起源（由 DAS 到 SAN）,时间：90年代中后期 由直联存储（DAS）发展而来，原来一台存储磁盘阵列只能连接到有限的服务器，发展为可以同时连接到上百台服务器 采用光纤作为连接链路，使用专用的FC交换机构成存储网络 每台服务器拥有自己的存储空间，但数据仍然不可以共享 提供快照、容灾等高级数据保护功能,FC链路,磁盘阵列,FC SAN 控制器,FC交换机,服务器,23,FC-SAN 技术特点,SAN应用系统架构,服务器 1,服务器 2,文件系统,文件系统,FC Switch,FCP,RAID,多台前端服务器共用后端存储设备 后端存储空间以LUN形式提供给前端服务器 不支持共享，每个LUN只能属于前端某一台服务器 连接采用FC光纤链路和专用FC交换机 链路速率为2Gbps、4Gbps,RAID,24,NAS 起源 网络数据共享与交换,时间：90年代初 网络飞速发展，许多应用系统的大量数据需要共享和交换，原有服务器DAS或SAN的模式无法满足应用的需求 出现专用的NAS存储设备，成为数据共享与交换的核心 随着网络带宽的增加（千兆、万兆以太网），性能飞速提高，应用范围日趋广泛,NAS 存储设备,专用IP存储网络,服务器群,25,NAS 应用结构技术特点,NAS应用系统架构,NFS, CIFS,专用IP 存储网络,服务器 3 CIFS,RAID,文件系统,多台前端服务器共享后端存储设备 后端NAS设备上的存储空间通过CIFS、NFS协议共享给前端主机，可同时对同一目录或文件进行并发读写 文件系统位于后端存储系统 连接采用标准以太网链路和TCP/IP协议 链路速率为1Gbps、10Gbps,服务器 2 NFS,服务器 1 NFS,NAS 存储设备,26,基于SAN结构的数据共享解决方案及其缺陷(1),基于SAN结构也可实现数据共享 第一，需要在系统中配置数台SAN共享管理服务器，负责整个文件系统的索引管理。 第二，需要在系统中每个前端服务器上安装SAN共享管理软件，因此该类解决方案无法应用于所有品牌的服务器，系统结构和管理十分复杂。,FC交换机,Linux 服务器,HP-UX 服务器,AIX 服务器,Solaris 服务器,Windows 服务器,FC-SAN存储设备,SAN共享 管理服务器群,控制器,SAN共享 客户端,以太网,SAN共享 客户端,SAN共享 客户端,SAN共享 客户端,SAN共享 客户端,27,基于SAN结构的数据共享解决方案及其缺陷(2),第三，前端服务器在读取文件时，需要首先从 SAN 共享管理服务器中读取文件的索引信息，然后再通过 FC 链路读写文件的数据块。 第四，在文件数量较多的应用环境中，需要大量的与 SAN 共享管理服务器进行交互，从而导致其读写效率低下。,FC交换机,Linux 服务器,HP-UX 服务器,AIX 服务器,Solaris 服务器,Windows 服务器,FC-SAN存储设备,SAN共享 管理服务器群,控制器,SAN共享 客户端,以太网,SAN共享 客户端,SAN共享 客户端,SAN共享 客户端,SAN共享 客户端,28,多厂商主机平台与大容量数据交换应用环境的唯一解决方案 NAS 架构,NAS应用系统架构,NFS, CIFS,专用IP 存储网络,Linux 服务器 NFS,RAID,文件系统,HP-UX 服务器 NFS,AIX 服务器 NFS,Solaris 服务器 NFS,Windows 服务器 CIFS,NAS 存储设备,数据共享管理由NAS存储设备控制器统一完成 高效、简捷，对主机平台完全透明,29,iSCSI 起源,IP链路,磁盘阵列,iSCSI存储 控制器,以太网交换机,服务器,时间：2001年 为了解决FC-SAN在价格及管理上的诸多门坎而产生 采用以太网作为连接链路，使用专用的以太网交换机构成存储网络 每台服务器拥有自己的存储空间，但数据仍然不可以共享 提供快照、容灾等高级数据保护功能 iSCSI 之所以被看好的原因 它根植于IP网络上，所以可以采用现有已非常成熟的管理工具及基础建设 懂IP的人才资源非常丰沛 因此可为企业节省大笔建置、管理及人事成本,30,iSCSI 技术特点,iSCSI应用系统架构,服务器 1,服务器 2,文件系统,文件系统,Ethernet Switch,IP,RAID,多台前端服务器共用后端存储设备 后端存储空间以LUN形式提供给前端服务器 不支持共享，每个LUN只能属于前端某一台服务器 连接采用以太网链路和专用以以太网交换机 链路速率为1Gbps、10Gbps,RAID,31,iSCSI （IP SAN ）架构,以太网,Linux/Unix,Windows,CeresData,千兆以太网 交换机,网络 采用标准的以太网络和标准的以太网口 存储 CeresData提供免费的iSCSI License，提供免费的iSCSI功能 服务器 安装由操作系统厂商提供的免费的iSCSI Initiator软件,32,金融在完成核心平台建立后应用对存储的需求,传统只用 SAN,传统只用 NAS,当今既可使用NAS 也可使用SAN 即NAS+SAN混合方式 绝大多数应用（包括数据库应用）,数据共享应用,非标准文件格式应用,33,各存储厂商的统一存储解决方案,FC链路,NAS网关 控制器,FC SAN 磁盘阵列控制器,磁盘架,FC交换机,服务器,以太网交换机,FC链路,以太网链路,其他厂商解决方案,CeresData的解决方案,FC链路,NAS+SAN+iSCSI 智能存储控制器,磁盘架,FC交换机,服务器,以太网交换机,以太网链路,全对称的系统架构,35,PRODIGY要解决的几个问题,FC/SATA磁盘子系统,RAID管理系统 RAID 0 / 1 / 5 / 6 / 0+1,Prodigy Virtualization,NVRAM Journaling,MagicShot,File Semantics,LUN Semantics,File Services NFS/CIFS/HTTP/FTP,Block Services FCP/iSCSI/SRP,TCP/IP/RDMA Protocols,FCP/RDMA Protocols,10/100M & 1GbE & 10GbE/IB Fiber & Copper,2Gb/4Gb/IB Filer,System Administration And Monitoring,Operation Manager,Prodigy Viewer,SNMP,AutoSupport RLM,存储性能,空间管理,数据保护,架构透明,36,CeresData的统一网络存储 vs 第三方的组装存储,数据中心 存储网络,对称的体系结构：打破性能瓶颈,客户端,处理器,控制和 数据缓存,处理器,客户端,数据 缓存,控制 缓存,数据 缓存,处理器,ASIC,处理器,HBA,HBA,HBA,HBA,处理器,HBA/NIC,控制 缓存,HBA,客户端,磁盘阵列,磁盘阵列,磁盘阵列,处理器和缓存 都共用,处理器与缓存 都完全分离,处理器共用 缓存分离,性能瓶颈,数据流,控制流,对称的体系结构：打破性能瓶颈,对称的体系结构：打破性能瓶颈,对称的体系结构：一直在线,冗余的体系结构（硬件和软件） 智能的系统故障管理 永远在线的服务 替换系统任何部件都能保证系统永远在线,对称的体系结构：智能的负载均衡,Node 0 master,Node 1 backup,Node 1 master,Node 2 backup,Node 2 master,Node 3 backup,Node 3 master,Node 0 backup,Virtual Volume,Logical Disk,Physical Disk (Chunklets),Hosts see a “LUN”,PRODIGY,43,有趣的数字,CPU是GHz级的 机械的影响 假设每数据块为4KB 假设磁盘平均访问时间为5ms 每次访问间隔相当于 100MB/s的链路 x 5ms = 0.5MB的数据没有发送 0.5MB的数据 / 4KB = 128块 结论：提高存储性能的关键不在链路带宽和协议的开销，而在于如何有效提高数据的访问效率。,44,提升存储性能的几个关键点,Storage,RAID,Prodigy,Protocols,Network Stack,Client,Client,Client,Client,Client,NVRAM,Disks,Network,Controller/PRODIGY,Clustering,Cluster Partner,Cluster Interconnect,数据条带化读写,数据批次读写,PRODIGY 独特的数据结构和访问方式,存储集群系统,46,存储集群系统 Cluster,Building A,Cluster interconnect A-loop B-loop,vol X,vol Y,47,存储集群技术 园区范围容灾（500 米）,Building A,LAN,Cluster interconnect A-loop B-loop,vol X,vol Y,vol X,vol Y,Building B,优势 容灾保护 完全冗余 实时镜像 节点容错切换 互为备份,48,存储集群技术 长距离容灾（100公里）,Building A,Building B,LAN,Cluster interconnect,FC + 裸光纤,优势 容灾保护 完全冗余 实时镜像 节点容错切换 互为备份,vol Y,vol X,vol Y,vol X,RAID,CeresData 产品独特技术 RAID 盘组动态在线扩容,存储控制器,磁盘组,D-Fusion 存储控制器,磁盘组,传统扩容增加磁盘组,D-Fusion 扩容增加单个磁盘,51,CeresData 产品独特技术 RAID 盘组动态在线扩容,Data,Parity,能够以单个硬盘为粒度扩充RAID组,真正的动态在线扩容，无需设备内部数据迁移，瞬间即可完成扩容操作,52,CeresData 产品独特技术 磁盘位置与 RAID 盘组的无关性,磁盘的位置与RAID组无关，可任意打乱磁盘顺序,系统升级或设备搬迁时，磁盘（架）可直接接入新的控制器，无需进行存储设备之间的数据迁移,53,CeresData 产品独特技术 RAID 6 提供更高的数据可用性,特点： 在当今大容量磁盘广泛使用的环境中，防范同一RAID组中任意两块盘同时发生故障。,3,1,2,1,1,1,3,1,2,2,1,3,3,1,2,2,9,5,8,7,7,12,12,11,D,D,D,D,P1,P2,54,RAID 6 vs RAID 4 / 5,RAID 4 / 5 7 数据盘 + 1 校验盘 2 块盘同时故障无法保护 系统性能 = 7 块盘的性能,RAID 6 14 数据盘 + 2 校验盘 2 块盘同时故障可以保护 系统利用率和 RAID 4/5 相同 系统性能 = 14 块盘的性能 性能和 CeresData RAID 4 相同,55,RAID 6 vs RAID 0 + 1,RAID 0 + 1 8 数据盘 + 8 校验盘 2 块盘同时故障无法完全保护 性能 = 8 块盘的性能,RAID 6 14 数据盘 + 2 校验盘 2 块盘同时故障可以保护 系统利用率和 RAID 4/5 相同 性能 = 14块盘的性能,故障,故障,空间管理,57,空间虚拟化的创新,传统的空间管理,静态虚拟化空间管理,58,灵活高效的存储卷空间管理 MagicVol,其它厂商产品 低利用率 20-30%,App 1,App 2,App 3,CeresData产品 高利用率 60-80%,MagicVol,59,MagicVol,Disk Pool,Disks,Disks,Disks,Disk Pool 包含物理磁盘,60,Disk Pools和MagicVol,创建 MagicVol 不需要预先给Volume分配实际空间 Prodigy 在用户数据写入时自动分配空间,创建 RAID 组,创建 Disk Pools,vol2,vol3,61,MagicVol 激动人心的数据管理创新,精细的数据管理 更高的利用率 更好的性能,62,MagicVol 精细化的数据管理,MagicVol卷: 逻辑存储容器 可以在线的扩容和缩小 MagicVol 最大1024TB 其他所有的特性和普通卷相同 Disk Pool: 物理磁盘池,63,MagicVol 提高存储空间利用率,Vol 1,Vol 2,Vol 3,Vol 4,常规的卷 预分配 剩余空间分散,MagicVol卷 没有预分配 剩余空间共享,64,MagicVol 提升 I/O 性能,比较的架构 卷的性能被它的磁盘数量限制,CeresData MagicVol的技术 各个卷可以共享所有磁盘的聚合性能,65,MagicVols: Enabling Thin Provisioning,MagicVols: Container level: flexible provisioning Better utilization,Physical Storage: 1 TB,MagicVols: 2TB,Container-level soft allocation,1 TB,300 GB,200 GB,200 GB,50 GB,150 GB,100 GB,Application-level: Higher granularity Application over-allocation containment,Separates physical allocation from space visible to users Increases control of space allocation,66,LUN模式下的空间使用情况,67,LUN模式下的空间使用情况,68,LUN模式下的空间使用情况,69,LUN模式下的空间使用情况,本机时间点保护,71,非计划停机发生原因和概率,资料来源: GartnerGroup,72,如何减少非计划停机,软件故障和人为错误 80% 数据冗余，采用快照技术（MagicShot） 硬件故障 15% 部件冗余，集群，RAID 6 环境灾难 5% 设备冗余，远程数据容灾（MagicMirror）,73,图例表明对于快照的实现两者没有区别。关键区别在于在 PRODIGY下如何工作。,普通文件系统 NTFS, UFS,PRODIGY文件系统,MagicShot 的创建,74,传统的 MagicShot 对性能的影响,一个写 I/O 成为: 读原始值,修改文件: “C” 至 “Z”,75,传统的 MagicShot 对性能的影响,一个写 I/O 成为: 读原始值 写原始值,修改文件: “C” 至 “Z”,76,传统的 MagicShot 对性能的影响,一个写 I/O 成为: 读原始值 写原始值 写新值,修改文件: “C” 至 “Z”,77,CeresData MagicShot不影响性能,只有一个写 I/O one Write I/O! 0% I/O 性能损失 每个卷 多达1024个快照 无预留区的限制 完成时间仅数秒 普通用户可以自己访问自己的快照,修改文件: “C” 至 “Z”,78,CeresData的快照（MagicShot） 与众不同,技术原理 Copy-on-Write技术 优势 零拷贝模式 不影响性能 无预留区的限制 无论快照还是快照恢复，完成时间仅数秒 可针对单个文件进行 普通用户可以自己访问自己的快照 每一个卷支持1024个拷贝,不同快照技术对存储性能的影响,读旧数据 (C) 写旧数据 (C) 写新数据 (Z) 2次写，1次读,其他厂商,数据,快照,A,B,Z,C,CeresData,写新数据 (Z) 1次写,79,数据快速恢复,Copy-Paste MagicShot Restore,80,用户能够看到原有的文件版本（最多1024个MagicShot）,MagicShot-based 数据恢复,多功能数据拷贝,82,多份拷贝导致成本增加,传统解决方案,生产数据,备份数据,法规遵从,容灾数据,测试和研发,数据分析 决策支持,83,一数多用拷贝大幅降低成本,传统解决方案,生产数据,备份数据,法规遵从,容灾数据,测试和研发,数据分析 决策支持,CeresData的解决方案,源拷贝,拷贝2,容灾数据 备份数据 法规遵从,影子克隆群,84,单功能拷贝模型,本机时间点瞬时备份的能力有限 全拷贝模型 只能保存极少量的时间点拷贝 需要较长的时间进行同步 发生灾难时丢失的数据较多 严重浪费空间 能耗过高 半拷贝模型 严重影响性能（降低40-60%） 空间分配不灵活,不能随时得到最新的数据 数据的更新需要相当长的时间 需要复杂的技巧保证数据的完整性和一致性 法规遵从需要另外的设备 严重消耗空间 能耗过高,源数据,备份 数据 1,备份 数据 2,容灾 数据,法规 遵从,研发 数据,测试 数据,分析 数据,X,X,X,X,分析 1份源数据 8份空间 尚未考虑RAID的消耗 无法使用不同规格的磁盘,85,一数多用模型,磁盘上的 实际数据,研发测试,源数据,时间点 快照,容灾 数据,测试数据,分析数据,本机时间点瞬时备份的能力强大 零拷贝模型 每数据卷高达1024个时间点拷贝 瞬时生成，并保证数据完整性和一致性 发生灾难时丢失的数据较少 仅需要占用改动的空间，且空间占用灵活 无性能影响 影子克隆是可读写的快照,86,数据虚拟化,磁盘上的 实际数据,非对称容灾,88,远程容灾的要素,对称的容灾模型,对称容灾和非对称容灾 同步复制和异步复制 RTO和RPO 购买成本和管理成本,非对称的容灾模型,89,远程机构,CeresData的MagicMirror 远程容灾方案,特点,支持非对称容灾模型，既可实现生产容灾，也可以实现经济容灾 支持同步、准同步和异步多种复制模型 非同步模式能够确保数据完整性和一致性，能够支持断点续传 支持IP和FC的链路 无距离限制 测试方便、实施容易、管理简单 初次建链，可以采用磁带进行 支持NAS、FC SAN和IP SAN,UNIX 服务器,Windows 服务器,D-Fusion存储,UNIX Servers,D-Fusion存储,每天,每30分钟,每分钟,每小时,异质存储,容灾中心,生产中心,异质存储,存储网关,D-Fusion存储,D-Fusion存储,去复本技术 De-duplication,91,Using Deduplication with Conventional Compression,Dedupe technology can be used w/ standard compression Deduplication is done first Unique data is then compressed prior to being stored on disk Compression is multiplicative to dedupe Example: If data dedups