HP容灾技术培训PPT课件

容灾技术培训,2,.,Agenda,XP容灾原理容灾系统架构及设计容灾系统日常维护容灾数据切换及恢复外挂存储,3,.,XP磁盘阵列容灾原理,4,.,ContinuousAccess(CA),ContinuousAccessXP（简称CA）是基于XP磁盘阵列的远程镜像软件。通过CA可以实现两台XP之间的实时数据复制。,PrimaryXP,SecondaryXP,P-VOL=源数据卷S-VOL=目标卷MCU=MasterControlUnit，包含P-VOLRCU=RemoteControlUnit，包含S-VOL,MCU,RCU,5,.,数据复制技术ContinuousAccessXPSync,每一个写IO先后在主备阵列上写完以后才返回完成，数据零丢失两站点之间距离越远，写延时越长适用于两站点之间距离较近（通常小于30KM），且远程链路带宽较高（通常大于1Gb）的情况,6,.,数据复制技术ContinuousAccessXPAsync,每一个写IO写入主阵列缓存即返回完成主阵列通过建立IO顺序表的方法向备阵列异步更新数据主阵列通过缓存（Sidefile）储存尚未发送给备阵列的数据写IO延时基本不受远程链路距离影响在链路带宽足够的情况下可实现数据接近零丢失需要通过参数设置的方式限制暂存数据对缓存的占用,7,.,数据复制技术ContinuousAccessXPJournal,每一个写IO写入主阵列缓存并更新Metadata后即返回完成备阵列向主阵列发送请求，异步从主阵列读取数据主阵列通过Journal盘储存尚未发送给备阵列的数据，对缓存占用很少写IO延时基本不受远程链路距离影响合理设置Journal盘的容量可以最大程度保持数据传输的有序性,8,.,HP3DCSolution,一、二中心之间通过ContinuousAccessSync方式进行数据复制，实现数据零丢失二、三中心之间通过ContinuousAccessJournal方式进行数据复制，实现远距离数据容灾在每个中心分别通过RaidManager主机进行管理和控制,RaidManager,RaidManager,RaidManager,9,.,ContinuousAccess的控制方式,在XP上安装CA软件，在访问XP的主机上安装Raidmanager软件。通过控制Raidmanager命令来管理CA的运行,RAIDManagerInstance,控制命令,主机,RAIDManagerInstance,控制命令,主机,FC网络,SVP,UDP,CA软件,CA软件,IP网络,FC连接,FC连接,MCU,MCU,RCU,RCU,10,.,ConsistencyGroup(CTGroup),在异步模式下，CA通过ConsistencyGroup（简称CTGroup）来保证写入顺序的一致性。对于同一个CTGroup内的所有镜像卷来说，写入远程XP的顺序和写入本地XP的顺序是一致的。,11,.,RaidManager(RM),RAIDManager（简称RM）XP是基于主机的软件包。通过RM可以从主机上使用命令行来控制XP镜像软件（包括ContinuousAccess、BusinessCopy等）的运行。,Commands:pairdisplaypaircreatepairsplit.,ConfigurationFile,RaidManagerInstance,Host,CMDDevice,XP,12,.,RaidManager在容灾系统中的应用,IP,FC,13,.,RAIDManager配置文件,/etc/horcm.conf:HORCM_MON#ip-addressservicepoll(10ms)timeout(10ms)132.33.34.11horcm010003000本机IP地址horcm进程监听端口号轮询设置超时设置HORCM_CMD#dev_name/dev/rdsk/c11t15d7XPCMDDevice的设备文件HORCM_DEV#dev_groupdev_nameportTargetLunca-billbill01_01CL1-A00CTgroup名称镜像卷名称LUN所在的端口target号LUN号HORCM_INST#dev_groupip_addressserviceca-bill132.33.34.11horcm0CTgroup名称对端RM主机IP地址对端RM主机horcm进程监听端口号,14,.,容灾系统架构及设计,15,.,方案概述,本项目的目标是构建XX集团计费帐务系统的大连容灾系统。容灾中心选址在大连XX机房。数据复制机制选择基于存储级的数据复制软件ContinuousAccess/XP。容灾存储设备选择惠普公司的企业级高端存储设备XP10000。在容灾机房中配备了各子应用系统的容灾主机惠普公司的HP9000服务器。本项目实施完成后，根据目前应用系统在两台XP128上的部署，将实现北京机房的两台XP128到大连一台XP10000的实时数据复制。,16,.,本次项目复制数据范围,根据东软及网通集成公司的共同确认，本次容灾项目涉及的数据复制范围如下：,17,.,现有SAN环境,18,.,项目实施后的SAN环境,19,.,XP10000划分,硬件配置Cache:16GBCHIP端口：16个ACP：1对磁盘组：146GBx4x26（裸容量14TB左右）Cache划分五个业务系统共享16GBcache。磁盘组OPEN-E。Raid级别采用RAID5（3D+1P）。LDEVIDLDEVID的分配采用disperse方式。,20,.,XP10000端口配置,CHIP端口计费系统，MQ：2个CHIP端口帐务系统，采集系统：2个CHIP端口客服系统：2个CHIP端口,21,.,XP128及XP10000配置表,22,.,ContinuousAccess配置,两台XP128到XP10000的CA配置的MCU-RCU关系如下：,MaximumInitialCopyActivity:4,CU0,CU1,CU1,CU0,CU1,CU2,XP128-20917,XP128-20434,XP10000-83066,23,.,CTGroup规划,24,.,RaidManager配置,/etc/horcm0.conf,Instance0,Instance0,/etc/horcm0.conf,Commands,P-VOL,CA,c17t15d7/c21t15d7,XP128-20917,Commands,132.33.34.11,132.37.3.11,S-VOL,CA,c12t15d7/c13t15d7,XP10000-83066,IP,FC,P-VOL,CA,c36t15d7/c37t15d7,XP128-20434,FC,北京,大连,25,.,RAIDManager配置文件-北京,yz-col2:/etc/horcm0.conf:HORCM_MON132.33.34.11horcm010003000HORCM_CMD#unit0(20917)/dev/rdsk/c17t15d7/dev/rdsk/c21t15d7#unit1(20434)/dev/rdsk/c36t15d7/dev/rdsk/c37t15d7HORCM_DEVca-billbill01_01CL1-C25ca-busbus01_01CL1-B36ca-colcol01_01CL1-A83ca-feefee01_01CL1-A00ca-mqmq01_01CL1-B02ca-dsbilldsbill01_01CL1-E100ca-dsbusdsbus01_01CL1-F100ca-dsfeedsfee01_01CL1-E132HORCM_INSTca-bill132.37.3.11horcm0ca-fee132.37.3.11horcm0ca-bus132.37.3.11horcm0ca-col132.37.3.11horcm0ca-mq132.37.3.11horcm0ca-dsbill132.37.3.11horcm0ca-dsfee132.37.3.11horcm0ca-dsbus132.37.3.11horcm0,26,.,RAIDManager配置文件-大连,B35-RZDL-COL01:/etc/horcm0.conf:HORCM_MON132.37.3.11horcm010003000HORCM_CMD/dev/rdsk/c12t15d7/dev/rdsk/c13t15d7HORCM_DEVca-billbill01_01CL3-A25ca-busbus01_01CL3-B00ca-colcol01_01CL1-A57ca-feefee01_01CL1-A00ca-mqmq01_01CL3-A215ca-dsbilldsbill01_01CL3-A186ca-dsbusdsbus01_01CL3-B51ca-dsfeedsfee01_01CL1-A83HORCM_INSTca-bill132.33.34.11horcm0ca-fee132.33.34.11horcm0ca-bus132.33.34.11horcm0ca-col132.33.34.11horcm0ca-mq132.33.34.11horcm0ca-dsbill132.33.34.11horcm0ca-dsfee132.33.34.11horcm0ca-dsbus132.33.34.11horcm0,27,.,容灾系统日常维护,28,.,启动和停止RaidManager进程,启动RM进程：horcmstart.sh0停止RM进程：horcmshutdown.sh0,29,.,RaidManager常用命令-pairdisplay,显示镜像卷状态:pairdisplaygI0fxc#pairdisplaygca-billI0-fxcGroupPairVol(L/R)(Port#,TID,LU),Seq#,LDEV#.P/S,Status,Fence,%,P-LDEV#Mca-billbill01_01(L)(CL3-A,2,5)8306675.S-VOLPAIRASYNC,075ca-billbill01_01(R)(CL1-C,2,5)2091775.P-VOLPAIRASYNC,075Group：CTGoupPairVol(L/R)：镜像卷名称（L表示本地卷，R表示远程卷）(Port#,TID,LU)：horcm.conf里指定port/target/LUN号Seq#：XP序列号LDEV#：LDEV号（十六进制）P/S：LDEV属性（P-VOL或S-VOL）Status：镜像卷状态Fence：ASYNC表示为异步模式%：Status为PAIR时表示Cache占用，COPY时表示复制进度，PSUS/PSUE时表示两端LDEV尚未变化的数据量P-LDEV#：对端LDEV号,30,.,镜像卷状态,SMPL：无镜像关系COPY：正在做初始化复制或正在恢复同步PAIR：镜像卷状态同步PSUS：镜像卷被用户断开PSUE：镜像卷由于链路异常被断开PFUS：镜像卷由于Sidefile占用超过Cache设定上限被断开,31,.,RaidManager常用命令,断开镜像卷：pairsplitg-I0：断开镜像卷，S-VOL不可写pairsplitg-I0-rw：断开镜像卷，S-VOL可读写pairsplitg-I0-S：删除镜像关系pairsplitg-I0-R：强制从S-VOL一端断开镜像，用于灾难恢复恢复镜像关系:pairresyncg-I0c15显示CTGroup状态：pairevtwaitg-I0-nowait返回值：1-SMPL2-COPY3-PAIR4-PSUS（PFUS也表示为PSUS）5-PSUE该命令只有在CTGroup中所有镜像卷状态一致时才会正常返回。,32,.,维护脚本,yz-col2和B35-RZDL-COL01主机上：/opt/dr/maintain_script/checkCA_status.sh：检查所有CTGroup的状态及Cache占用率/opt/dr/maintain_script/splitCA_all.sh：以读写方式断开所有CTGroup/opt/dr/maintain_script/splitCA_bill.sh：以读写方式断开ca-bill组/opt/dr/maintain_script/splitCA_fee.sh：以读写方式断开ca-fee组/opt/dr/maintain_script/splitCA_bus.sh：以读写方式断开ca-bus组/opt/dr/maintain_script/splitCA_col.sh：以读写方式断开ca-col组/opt/dr/maintain_script/splitCA_mq.sh：以读写方式断开ca-mq组/opt/dr/maintain_script/splitCA_dsbill.sh：以读写方式断开ca-dsbill组/opt/dr/maintain_script/splitCA_dsfee.sh：以读写方式断开ca-dsfee组/opt/dr/maintain_script/splitCA_dsbus.sh：以读写方式断开ca-dsbus组/opt/dr/maintain_script/resyncCA_all.sh：恢复所有CTGroup的镜像同步,33,.,大连容灾系统可能出现的故障,大连容灾系统可能出现的故障现象及解决方法如下：,34,.,容灾数据切换及恢复,35,.,需要进行容灾切换的情形,需要进行容灾切换的情形主要有：生产中心所属区域发生重大自然灾害生产中心机房受到严重破坏或长时间停电生产中心两个SAN网络全部故障生产中心XP128出现严重故障容灾演习,36,.,容灾数据切换流程,37,.,检查容灾中心软硬件状态,检查容灾中心主机及存储硬件确认Xp10000的MESSAGE（黄）和ALARM（红）告警等不亮确认主机告警等不亮确认SAN交换机无告警检查容灾中心集群状态在各台主机上执行cmviewclv确认所有节点状态为running，所有运行包状态为halted,38,.,断开镜像,以root用户登录到B35-RZDL-COL01主机上执行：/opt/dr/switch_over_script/splitCA_all_R.sh断开镜像并将大连Xp10000上的数据置为可读写,39,.,修改卷组属性和数据库配置,以root用户登录到各台容灾主机上激活卷组/opt/dr/switch_over_script/vgactive_xxx.sh修改数据库配置/opt/dr/switch_over_script/dataconfig_xxx.sh去激活卷组/opt/dr/switch_over_script/vgdeactive_xxx.sh,40,.,启动运行包,以root用户在各台主机上执行cmrunpkgvn主机名运行包名cmviewclcmmodpkge运行包名,41,.,容灾数据恢复（回切）流程,42,.,Metrocluster/ContinentalCluster,43,.,MetroCluster同城集群,与MC/Service软件集成，实现同城数据中心之间（200公里）构建高可用集群与ContinuousAccessXP软件集成，实现生产中心和灾备中心之间的数据一键切换每个数据中心应配置同样数量的主机，并在第三中心提供QuorumSerivce支持自动或手动切换方式,44,.,ContinentalCluster洲际集群,实现两个远程集群（距离不限）之间的监控及切换与Metrocluster软件集成，实现生产中心和异地灾备中心之间的数据一键切换不支持自动切换，只支持手动切换,45,.,案例：某船运公司3中心架构,46,.,客户需求及解决方案,需要同时满足零数据丢失和防范大范围灾难的需求。HP3DCSolution数据传输方面需要使用两地之间已具备的IP网络，不再另行铺设裸光纤使用MPBlade配置FCoverIP，通过IP网络实现两地之间的容灾数据传输客户主要系统均为WindowsServer，要求实现自动化的容灾管理和切换。ClusterExtensionXP软件与微软集群进行集成，实现自动化容灾集群。,47,.,系统架构图,48,.,整体规划,HK2为主中心，HK1为同城容灾中心，SZ为异地容灾中心HK2和HK1之间采用长波光纤直联，通过CASync方式进行数据复制HK2和SZ之间采用FCIP远程连接，通过CAJournal方式进行数据复制三个数据中心均有相应的服务器进行应用接管在HK2和HK1之间，以及HK2和SZ之间通过ClusterExtensionXP软件与MicrosoftCluster集成实现自动化容灾功能。,49,.,M公司3DC结构,50,.,M公司FCIP架构图,VE_port,VEX_port,BackboneFabric,EdgeFabric,51,.,ExternalStorage,52,.,ExternalStorageXPvirtualizationoverview,ExternalStorageXPvirtualizesheterogeneousdiskarraysHostsconnectedtotheXP12000/10000seethecapacity,butnotthephysicalattributesoftheexternalarrays,53,.,ExternalStorageinternaloverview,ExternalLUNsaremappedasXPvirtualdevices(VDEVs),logicaldevices(LDEVS),andhost-facingLUNsPorts(andCHIPMPs)arededicatedtoexternalarrayconnectionsThehostseesinternalandexternalbasedLUNsinasimilarwayIfnecessary,thehostcandistinguishexternalLUNsviaSCSIinquiry,54,.,ExternalStoragesolutionconnectivity,Forhigh-availability,thefollowingsetupisrecommended:AmatchedsetofonehostfacingCHIPmultiprocessor(MP)andonestoragefacingCHIPMPOneFibreChannelpathOneextern