存储虚拟化(非常详细)

什么是存储虚拟化第一页，共64页。SNIA(存储网络工业协会)对存储虚拟化的定义：

Theactofabstracting,hidingorisolatingtheinternalfunctionofastorage(sub)systemorservicefromapplications,computeserversorgeneralnetworkresourcesforthepurposeofenablingapplicationandnetworkindependentmanagementofstorageordata.Theapplicationofvirtualizationtostorageservicesordevicesforthepurposeofaggregating,hidingcomplexityoraddingnewcapabilitiestolowerlevelstorageresources.Storagecanbevirtualizedsimultaneouslyinmultiplelayersofasystem,forinstancetocreateHSM-likesystems.参考译文：通过对存储(子)系统或存储服务的内部功能进行抽象、隐藏或隔离，使存储或数据的管理与应用、服务器、网络资源的管理分离，从而实现应用和网络的独立管理。对存储服务和设备进行虚拟化，能够在对下一层存储资源进行扩展时进行资源合并、降低实现的复杂度。存储虚拟化可以在系统的多个层面实现，比如建立类似于HSM(分级存储管理)的系统。什么是存储虚拟化第二页，共64页。虚拟化的原理16857管理2客户管理员物理资源逻辑资源第三页，共64页。为什么要存储虚拟化第四页，共64页。存储虚拟化的原动力虚拟存储池复制空间资源整合镜像快照统一数据管理迁移标准化接入第五页，共64页。存储虚拟化的目的抽象Abstract统一数据管理功能“Virtualization”降低管理难度数据跨设备流动提高可扩展性提高设备使用效率隐藏Hide隔离Isolate设备构件化第六页，共64页。1、融合：技术基础（更可靠、更可控、更灵活、更易扩展、更低成本）2、开放：个性化基础（SOA的标准中间件架构和应用开发接口）3、面向应用：以应用为先导，资源动态分配、统一管理用虚拟化简化IT架构存储系统计算节点互连网络虚拟信息架构VirtualInformationInfrastructure应用Applications(ERP,SCM,CRM,OA…)WhatyouhaveWhatyouwant基础架构技术融合；面向应用的计算、网络、存储的IT资源池开放中间件，实现可定制应用与基础架构分离第七页，共64页。ESG报告表明，早期采用虚拟化技术平均每年可节约:24%硬件成本16%软件成本19%管理成本如果预算共$1，000，000，花费$500，000于硬件，

$200，000于软件和$300，000于管理。存储虚拟化的价值每年可节约$209，000第八页，共64页。存储虚拟化实现模式第九页，共64页。存储虚拟化实现的结果存储虚拟化磁盘虚拟化块虚拟化磁带、磁带驱动器、磁带库虚拟化文件系统虚拟化文件/记录虚拟化基于主机的虚拟化基于网络的虚拟化基于存储设备、存储子系统的虚拟化带内虚拟化带外虚拟化实现结果实现位置实现方式第十页，共64页。两条存储路线的斗争—ScaleUp&ScaleOutConventionalStorageClusteredStorageFaster…………….Slower…………….TRAINSTOPS!!!!!!!!!!!!TRAINKEEPSGOING!!第十一页，共64页。1.磁盘扇区的物理地址一般用C-H-S(柱面号-磁头号-扇区号）表示2.磁盘虚拟化就是将扇区地址用LBA（逻辑块地址）表示，屏蔽底层物理磁盘的概念3.磁盘虚拟由磁盘自身固件完成4.磁盘虚拟化的结果是使磁盘的使用者无须了解磁盘的内部硬件细节，通过块地址就可以访问磁盘磁盘虚拟化001002003004005006007…磁盘虚拟化LBA第十二页，共64页。1、块虚拟化是指对多块硬盘建立RAID，划分逻辑卷（LUN）。2、每个逻辑卷对于使用者都完全等同于一块物理硬盘。物理上来说，这个逻辑卷的所有数据块，都是通过RAID处理，分布在不同的物理硬盘上。3、块虚拟化的结果是使存储的使用者无须关心RAID实现的具体过程，只要象读写普通硬盘一样读写这个逻辑卷，就能获得RAID对数据的保护功能。块虚拟化物理磁盘Raid、磁盘分区逻辑资源块虚拟化第十三页，共64页。1.采用类似RAID的技术对多盘磁带进行条带化和校验，以期提高磁带使用的可靠性和性能2.由于磁带读写缓慢，难以满足条带和校验的需要，因此RAIT技术很少使用磁带、磁带驱动器、磁带库虚拟化VTL虚拟磁带库磁带虚拟化RAIT条带化功能多个磁带驱动器一个逻辑驱动器磁盘1.提高磁带驱动器使用效率2.加快数据备份的速度VTL将磁盘阵列虚拟为磁带库，使用户在无须改变备份习惯和现有备份软件配置的情况下，获得以下优点：1、大幅度提高性能，缩短数据备份和恢复窗口2.获得磁盘阵列的RAID保护功能，避免磁带介质故障3.持续扩展备份的性能和容量第十四页，共64页。NAS虚拟化NAS的特点支持异构主机成熟的网络拓扑结构高度集成的存储子系统设备简单化虚拟文件系统NFS/CIFS客户端文件文件LANNAS设备虚拟硬盘提供专用文件系统第十五页，共64页。NAS虚拟化典型产品——EMCIsilonNFS,CIFS,FTP,HTTPClient/ApplicationLayerStandardGigabitEthernetLayerIsilonIQClusteredStorageLayerIntracluster

CommunicationInfiniBandLayerWindowsUNIX/LINUXMAC(optional2ndswitchforadditionalsubnet)(optional2ndswitchforhighavailability)第十六页，共64页。(optional2ndswitch)IsilonIQStorageLayerIntraclusterCommunicationInfinibandorGigELayerServersClient/ApplicationLayerNFS,CIFS,FTP,HTTP(optional2ndswitch)StandardGigabitEthernetLayerServersServersEMCIsilonArchitecture第十七页，共64页。WritingaFilewithEMCIsilon(optional2ndswitch)(optional2ndswitch)ServersNFS,CIFS,FTP,HTTP(optional2ndswitch)ServersServersWorkVert-Specific第十八页，共64页。WritingaFilewithEMCIsilon(optional2ndswitch)WorkVert-Specific第十九页，共64页。(optional2ndswitch)ServersNFS,CIFS,FTP,HTTP(optional2ndswitch)ServersServers(optional2ndswitch)ReadingaFilewithEMCIsilonWorkVert-Specific第二十页，共64页。ReadingaFilewithEMCIsilon(optional2ndswitch)ServersNFS,CIFS,FTP,HTTP(optional2ndswitch)ServersServersWorkVert-Specific第二十一页，共64页。存储虚拟化实现的位置存储虚拟化磁盘虚拟化块虚拟化磁带、磁带驱动器、磁带库虚拟化文件系统虚拟化文件/记录虚拟化基于主机的虚拟化基于网络的虚拟化基于存储设备、存储子系统的虚拟化带内虚拟化带外虚拟化实现结果实现位置实现方式第二十二页，共64页。基于主机的存储虚拟化主要用途：使服务器的存储空间可以跨越多个异构的磁盘阵列，常用于在不同磁盘阵列之间做数据镜像保护。优点：支持异构的存储系统。缺点：占用主机资源，降低应用性能。存在操作系统和应用的兼容性问题。导致主机升级、维护和扩展非常复杂，而且容易造成系统不稳定性。需要复杂的数据迁移过程，影响业务连续性。常见产品：SymantecVeritasVolumeManagerAgentAgentAgentAgentDAS或SAN存储网络实现方式：一般由操作系统下的逻辑卷管理软件完成（安装客户端软件），不同操作系统的逻辑卷管理软件也不相同。第二十三页，共64页。基于存储设备的存储虚拟化主要用途：在同一存储设备内部，进行数据保护和数据迁移。优点：与主机无关，不占用主机资源。数据管理功能丰富。AgentAgentAgentAgentSAN存储网络虚拟化引擎实现方式：在存储控制器上添加虚拟化功能，常见于中高端存储设备。缺点：一般只能实现对本设备内磁盘的虚拟化。不同厂商间的数据管理功能不能互操作。多套存储设备需配置多套数据管理软件，成本较高。常见产品H3CIX/EX系列HPEVAHDSTagmaStorSUN6920系列第二十四页，共64页。基于网络的存储虚拟化主要用途：异构存储系统整合和统一数据管理。优点：与主机无关，不占用主机资源。能够支持异构主机、异构存储设备。使不同存储设备的数据管理功能统一。构建统一管理平台，可扩展性好。SAN+虚拟化引擎实现方式：通过在存储域网（SAN）中添加虚拟化引擎实现。缺点：部分厂商数据管理功能弱，难以达到虚拟化统一数据管理的目的。部分厂商产品成熟度较低，仍然存在和不同存储和主机的兼容性问题。常见产品H3CIV系列IBMSVCEMCVPLEXNetAppGFiler系列第二十五页，共64页。存储虚拟化实现技术比较好较好较差很差第二十六页，共64页。存储虚拟化实现的方式存储虚拟化磁盘虚拟化块虚拟化磁带、磁带驱动器、磁带库虚拟化文件系统虚拟化文件/记录虚拟化基于主机的虚拟化基于网络的虚拟化基于存储设备、存储子系统的虚拟化带内虚拟化带外虚拟化实现结果实现位置实现方式第二十七页，共64页。带内虚拟化主机层网络层存储层虚拟化引擎①逻辑读写指令②物理磁盘指令SAN数据读写流用途：异构存储系统整合统一数据管理，在业务运行同时完成复制、镜像、CDP等各种数据管理功能优点：服务器、存储设备的兼容性好虚拟化和数据管理功能由专用硬件实现，不占用主机资源丰富的数据管理功能配置简单，易于实施缺点：虚拟化设备发生故障，整个系统将中断逻辑指令转换物理指令第二十八页，共64页。带内虚拟化典型产品——EMCVPLEX分布式.动态.智能.数据中心内VPLEXLocalVPLEXMetro远距离AccessAnywhere同步VPLEXGeo远距离AccessAnywhere异步第二十九页，共64页。VPLEX系列使用案例可用性高可用性消除故障切换所进行的

存储操作随时随地访问移动性灾难避免数据中心迁移工作负载重新平衡随时随地访问群集A群集B协作远距离即时和同时数据访问优化工作流程随时随地访问远距离移动和重新定位虚拟机、应用程序和数据支持跨地点并发读/

写数据访问通过跨位置镜像保持可用性和无中断访问第三十页，共64页。带外虚拟化主机层网络层存储层SAN①注册请求②存储列表②注册响应③建立连接，进行读写AgentAgentAgent控制信息流虚拟化引擎数据读写流用途：一般用于不同存储设备之间的数据复制优点：虚拟化设备发生故障，整个系统将不会中断缺点：主机资源占用较大大部分产品缺乏数据管理功能主机和存储系统需要严格的兼容性认证数据初始化同步复杂配置复杂，实施难度高第三十一页，共64页。存储虚拟化的应用难点第三十二页，共64页。原数据卷磁盘阵列Question：

如何保证虚拟化之后的数据状态不变，同时避免复杂的数据备份和迁移？

Answer：

SSE(存储服务使能）实现对已有数据的卷的虚拟化：

数据状态不变

访问路径不变

无需数据迁移

丰富的数据管理功能应用主机虚拟化之后的数据卷虚拟化信息无缝接入用户原有环境！难点一：数据状态的一致性保证第三十三页，共64页。难点二：多存储访问协议支持应用服务器DAS设备IPSAN设备FCSAN设备FCiSCSINFSCIFS虚拟化引擎Question：虚拟化如何同时支持IPSAN、FCSAN、NAS等多种存储访问协议？Answer：虚拟化设备内置高效的多协议数据转换引擎，将来自前端服务器的多种主机数据访问单元，与后端存储阵列的存储数据访问单元，进行解析和转换，保证数据的正确读写访问。多协议数据转换引擎存储设备第三十四页，共64页。难点三：存储多链路负载均衡Question：针对多样化的存储阵列，如何部署多链路负载均衡软件，保证后端存储访问路径的高可用？Answer：MultiPath是一种多路径软件,安装在虚拟化管理设备上后，可为虚拟化引擎到后端存储提供多路径功能支持负载均衡支持故障切换LUN0LUN1存储系统LUN0LUN0LUN0LUN0LUN1LUN1LUN1LUN1LUN0LUN1LUN0虚拟化虚拟化虚拟化引擎MultiPathFC交换机FC交换机控制器2控制器1第三十五页，共64页。难点四：主机多链路负载均衡FCHBA卡1FC交换机FCHBA卡2FC交换机LUN1LUN0应用主机IV5000LUN0LUN0LUN1LUN1LUN0LUN1虚拟化虚拟化DynaPathQuestion：针对不同的应用主机，如何部署多链路负载均衡软件，保证前端主机访问路径的高可用？Answer：DynaPath是安装在主机端，为了实现FC环境下的多路径的一种软件支持负载均衡支持故障切换第三十六页，共64页。难点五：统一数据管理功能虚拟存储池HA功能镜像连续数据保护跨设备数据保护跨设备数据迁移远程数据复制应用服务器虚拟化引擎存储设备Question：虚拟化存储资源整合后，能否提供统一的丰富的数据管理功能，实现跨设备、跨地域的全面数据保护？Answer：H3CNeocean虚拟化数据管理平台，在提供数据虚拟化整合的基础上，提供镜像、快照、网络复制等数据管理功能，提供丰富的数据保护解决方案。第三十七页，共64页。计算云和存储云LOB用户访问服务虚拟或物理服务器App1App2App3App4App5App6App7App8云管理员LOB用户访问服务Unix计算云Systemp,xzApp1App2App3App4App5App6App7App8LOB用户访问服务虚拟存储云管理员LOB用户访问服务存储云XIV/SoFS计算云:通过互联网或内部网提供给云用户的是一个可扩展的弹性的服务器(物理或虚拟),存储对用户是透明的。存储云:通过互联网或内部网提供给云用户的是一个可扩展的弹性的存储或数据服务，物理存储设备对用户是透明的。第三十八页，共64页。存储云技术参考架构动态基础架构OSS虚拟化管理IT服务自动化&控制BSS存储云服务管理平台业务管理存储云服务用户服务交付门户平台服务管理门户Customerin-houseIT合作伙伴云用户管理员用户业务经理云服务用户云管理员资源虚拟化平台服务器磁盘存储磁带存储服务监控/报告服务请求与目录管理服务自动化管理数据备份/归档资源管理资源部署与回收费用管理计价管理用户管理服务业务目录服务报告订单管理集群管理网络云操作员云服务开发者资源管理员服务接入文件级别的存储云服务NFSCIFSHTTPFTPGPFS+HSMSystemDirectorTSMGPFSClusterSoFSPackageLDAPorGPFSUsermgmtGPFS+SAMBA+ApachFileService第三十九页，共64页。从存储虚拟化走向云存储的路线图整合&虚拟化面向服务的管理管理自动化减少设备投资成本(CAPEX)资产利用率提高三倍空间节省可达80%减少维护成本(OPEX)资源部署从几个星期减少到几个小时提高标准化水平实现硬件平台的自动管理建立自我服务的门户自动响应业务的变化IT架构与业务管理紧密联系云存储存储虚拟化第四十页，共64页。存储云与传统存储平台的区别块存储云文件存储云块存储用户文件存储用户LUN,iSCSILUNTargetsPOSIX(NFS,CIFS,WebDAV),快速为用户部署存储空间按实际用量计费降低存储成本(存储共享，重复数据删除，数据压缩)系统管理简单弹性扩展第四十一页，共64页。存储云的潜在用例面向互联网应用：流媒体、社交网站、图片非结构化数据：通用内容存储(“云盘”):通过POSIX进行访问，如iCloud,ThingGrid等具备与云数据同步功能的通用内容存储：数据的访问可能通过不标准的协议，如MobileMe,GoogleDocs,WindowsLiveMesh等数据备份：把数据备份到存储云，在需要的时候进行恢复数据归档和保留：把数据保存一段时间，然后安全地删除数据保存：数据保存很长一段时间，如图书馆、大学的资料等数据库：为云应用存放表数据，如MicrosoftAzureTables,GoogleBigTable,SimpleDB云计算需要的存储：主要为laaS服务，存放映像，应用映象等，如AmazonS3等内容分发：全球性的发布数据，减少延迟和提高扩展性云存储之间的相互操作：存储云之间的数据共享、数据复制、数据分布等Source:SNIACloudStorageUseCaseversion0.5第四十二页，共64页。存储云的框架Framework物理设备层设备管理层数据管理层服务接入层高可用性数据在线迁移数据备份数据归档数据合规重复数据删除内容管理专用APINFSCIFSLUN/iSCSILUNWebDAV数据安全信息挖掘存储资源部署存储云用户Tier-1DiskTier-2DiskTier-3DiskSANSwitchTape块存储云(LUN服务)文件存储云(文件服务)IBM存储云解决方案数据快照应用相关性0100存储虚拟化第四十三页，共64页。存储云建设的考虑因素数据服务的对象：公共存储云还是私有存储云？存储数据服务的种类：块存储还是文件存储？性能和吞吐量：对性能要求比较高的应用，如OLTP，服务器与存储云应该放在一起，避免网络延迟带来的影响。高可用性:99.999%的可用性需要可靠的硬件，更需要有效的系统管理手段数据安全：如何保障公共存储云上数据的安全性？数据加密？第四十四页，共64页。厂商C厂商B厂商A驱动A驱动A驱动B驱动B驱动C远程镜像?没空间了没空间了没空间了空余空间数据迁移SAN管理控制台A管理控制台C管理控制台B快照?是否能利用现有的存储网络进行数据拷贝服务？－管理多个存储通过多个管理接口？－整合需要为新增加的存储容量购买各种功能的软件授权？存储的空间没有得到有效的利用？－整合是否支持非中断的数据迁移，以及所需时间?－应对7X24小时需求空间、制冷、电费？面临的信息挑战第四十五页，共64页。在物理存储系统和服务器之间增加一个虚拟层，它管理和控制所有存储并对服务器提供存储服务。

服务器不直接与存储硬件打交道，存储硬件的增减、调换、分拆、合并对服务器层完全透明。隐藏了复杂程度允许将现有的功能集成使用摆脱了物理容量的局限虚拟化逻辑表现物理设备什么是存储虚拟化第四十六页，共64页。DS/TSStorageSubsystemEVARAIDSAN卷控制器SAN文件系统NASStorageNetworkSVCSVSPGPFSEFSIBRIXp5HypervisorVIOS/VMFS操作系统LVMLVMServerOperatingSystemVIOS虚拟化逻辑表现物理设备存储虚拟化技术第四十七页，共64页。块设备访问(StorageVolume)存储集合管理VMMobilityOSOSOSHypervisorN-waySMPOSOSOSN-waySMP服务器集合管理Hypervisor…StorageControllersSAN

SwitchesBlockStorageEnsembleStorageMobilityStorageControllersSAN

SwitchesVirtualizedBlockStorageEnsembleStorageMobilityStorageControllersSAN

SwitchesBackup&ArchiveEnsembleStorageControllersSAN

SwitchesFileStorageEnsemble高扩展文件系统存储虚拟层文件访问(File)OSOSOSHypervisorN-waySMPTape存储的变化应该对上层应用透明，不影响上层应用的配置和运行存储虚拟化架构第四十八页，共64页。Time应用成长功能‘扩展’部分功能迁移到其他应用存储初始规划应用逐步下线部分正确定级部分正确定级快速发布简单的流程没有浪费没有浪费

应用生命周期部分正确定级主动并且没有痛苦的存储管理深入了解应用特性预测并消除应用QoS问题简单的初始定级简单的再定级在应用生命周期的所有阶段都有效利用空间存储服务在应用生命周期的所有阶段都可以很好地匹配

业务的需求少数卓越的大型企业IO负载应用初始上线有限测试动态优化存储架构第四十九页，共64页。聚集多个磁盘系统建立一个大的存储池一套拷贝服务适用于所有存储系统从一个点管理所有存储系统存储改变不影响应用VirtualDiskVirtualDiskVirtualDiskVirtualDiskSANSANVolumeControllerAdvancedCopyServicesStoragePoolHPEMCDS4000DS8000HDS异构环境构建存储虚拟化第五十页，共64页。虚拟化存储整合解决方案StorageVirtualization客户拥有很多的异构的存储和不同平台的主机系统整体低的利用率通过提高存储的全部的存储的利用率，节省电源消耗；提升IO性能和吞吐量通过统一的任务窗口对异构存储实施高级拷贝，备份和生命周期管理，降低存储管理成本IBM,HP,EMC,HDS…Combined50%utilizationStoragePoolIBM,HP,EMC,HDS…Combined80%utilizationIBMSANVolumeController推荐的解决方案价值主张目标客户第五十一页，共64页。IBM的虚拟化解决方案－－绿色策略整合存储，提高存储的利用率，降低能耗；构成一个大的存储池；采用更大容量的SATA磁盘；减少磁盘数量；相同容量的SATA磁盘的耗电是FC磁盘的一半；迁移数据，更有效的利用存储；根据策略，将数据迁移到SATA磁盘上；集中备份，占用更少的存储；存储池内基于COW进行快照；4Q2007只备份变更的数据；重复数据删除技术；减少测试、开发所需的存储空间；存储池内，通过基于时间点的快照，而非克隆技术;存储空间精简配置存储按需分配；2Q2008第五十二页，共64页。Windows服务器Linux服务器UNIX服务器计算能力和数据的孤岛不同的管理工具人工资源分配管理服务器物理整合复杂逻辑简化Windows服务器UNIX®

服务器Linux服务器网络网络较少的设备和许可证不同的管理工具耗费大量人力的资源分配资源池每台服务器多种操作系统快速资源分配自动管理存储虚拟化虚拟服务器、存储、网络存储服务器需要突破性技术降低复杂性——简化IT存储架构网络第五十三页，共64页。HiddenCost:StorageVirtualization潛在成本：儲存虛擬化資料整合為跨單位整合的第一步!!導入評量指標：資料所有權/散佈權/重覆比例資料成長量=??PB/Year現有資料副本個數/災害復原能力商業硬體方案：EMC、NetApp商業軟體方案：IBMGPFS自由軟體方案：Lustre、ZFS、GlusterFS...預期效益：減少資料重覆(DataDeduplication)提供異地副本備份、災害復原機制第五十四页，共64页。處理海量資料是雲端運算的精華用前處理與資料量換取查詢時間關鍵技術：分散儲存檔案→在地平行運算分散式資料庫→Key-Value商業解決方案：GoogleAppEngineGFS/MapReduce/BigTableAmazonS3/SimpleDBClouderaHadoopDistribution預期效益：降低檔案遺失風險降低資料傳輸成本Adjust#3:BigData導入雲端第三波主打：BigData！！第五十五页，共64页。开放系统主机存储云IBMXIVAutomationHealthDiscoveryConfigurationRemoteAccessMonitoringUpdateTPMTSAM/BlueCloud全自动地为企业内各个部门提供各种服务器(真实的或虚拟的)服务，用于运行基于开放系统的应用程序快速自动地部署虚拟服务器/SAN存储弹性扩展，不影响业务的运行在系统池内可以定制利用率、可用性、能耗的管理策略，提高服务水平App1App2App3App4App5App6App7App8虚拟化管理资源管理跨服务器平台管理云计算服务管理平台LOB用户提交申请虚拟盘云管理员LOB用户访问服务块存储云第五十六页，共64页。IT管理面临的挑战数据的海量增长——数据中心成本飙升部门缺乏足够的能力以快速响应业务的需求——服务提交压力不尽人意的可靠性及服务级别保障——服务水平压力缺乏熟练的技术管理人员——管理成本高资产使用率低——采购成本高虚拟化你的存储！第五十七页，共64页。SANHitac