医院双活数据中心建设

1、医院双活数据中心建设目录医院简介建设背景一期、二期、三期方案设计 实施方案系统测试医院历史3 始建于1951年，由留德儿科博士刘一麟创建， 至今已有64年历史 医院概况4辐射人口800多万业务收入12亿元年出院人数7万人次设备总值4亿多元编制床位1810张年诊疗总量130万人次建筑面积 44.5万平米(含在建院区30万)信息化历程目前各类系统（模块）近100个， 内外网物理隔离，计算机 2000多台。51987年购置第一台计算机1993年建成第一个部门级局域网（门诊收费）1998年建设全院HIS系统2002年医生工作站全面投入使用2014年建成双活数据中心6生产机房灾备机房机房全景图目录医院简

2、介建设背景一期、二期、三期方案设计 实施方案系统测试背景1个机房背景HIS系统数据库运行在两台IBM P550小型机上（后租用一台IBM P570小型机，P570和其中一台P550组成一套HA系统），数据存储在IBM DS4300存储上；HA系统只能实现故障转移，无法实现负载均衡，无法充分利用硬件设备资源；设备购买年限较长，从电子设备的稳定周期来看，设备已进入故障高发期；业务逐年增长，高峰时对系统的压力越来越大；出现过业务高峰时，系统负载过高，整个系统的响应变慢的状况；系统存在单点故障，安全性堪忧，系统更新势在必行；所有的应用系统采用传统模式部署业务系统直接运行在物理服务器上。HA系统（200

3、6-2012）系统需求快！随着患者对医院服务要求的增高，要求系统的响应速度越来越快；业务系统越来越多，要求系统的处理能力越来越快；安全！随着医院业务的发展，要求系统的稳定性越来越高；由于医院行业的特殊性，对系统的停机要求很高，最好做到维护系统时，服务不中断；排除系统的单点故障，保证系统的稳定性；保证系统的先进性，要求采用主流技术架构建设系统；业务数据已成为医院的重要资源，要求做好业务数据的实时保护，同时要求业务数据拥有备份；目录医院简介建设背景一期、二期、三期方案设计 实施方案系统测试一期系统架构LAN生产机房灾备机房裸光纤存储虚拟化EMC Vplex光纤数据流图例IBM DS4300EMC

4、VNX5300Oracle DGIBM P570数据同步EMC VNX5500IBM P740IBM P740OracleRAC存储池VMware2013年 2个机房一期实施内容2台IBM P740小型机1台EMC VNX5500存储1台EMC VPLEX Local节点2台EMC DS300B SAN交换机1套Oracle RAC安装部署及数据迁移1套Oracle DataGuard数据容灾软件实施1套VMware服务器虚拟化（测试运行阶段）一期建设成果P740小型机提升系统的整体处理能力；Oracle RAC 提升数据库的处理能力及系统的安全性，实现了故障转移和负载均衡；通过存储虚拟化解决

5、存储的单点故障，同时保证系统的重要数据在系统中有着实时的两份同样的COPY；存储虚拟化平台的建立，使核心数据存储系统的不停机维护成为可能；Oracle DG可以保证生产系统的快速切换，保证在出现故障时，业务可以快速上线；VMware服务器虚拟化环境，保证在物理服务器出现故障时，应用系统不中断（虚拟机自动迁移至健康服务器）。为什么有二期？一期EMC Vplex存在单点故障，如果EMC Vplex出现故障，系统将出现宕机，前端应用将停止服务；主要设备都在新机房，在极端状况下，如果新机房出现电源故障，系统将被迫切换，系统将会短时间停机；IBM P570主机设备老化，作为备机在应对大规模业务流量时不稳

6、定，会出现宕机状况；系统保护多为在线冗余保护，离线数据保护系统很薄弱，系统抵抗逻辑风险的能力低。VMware服务器虚拟化没有实现跨站点容灾保护，一旦生产机房出现电源故障，所有虚拟化环境都会出现业务中断一期系统需加强的要点二期需要做的事增添一台小型机IBM P740（8核心CPU，32GB内存，8Gb HBA卡，万兆网卡），用来替换P570小型机作为OracleDg及DSG的容灾服务器；将现有EMC Vplex Local升级成Metro型号，再配置一台EMC Vplex Metro，形成EMC Vplex 群集配置，预防Vplex单点故障；将由原的RAC系统分别部署在两个机房，形成同园区的双活

7、数据中心，防止机房出现电源或网络方面的极端故障；由于新机房建设标准高，机房环境好，将Oracle DG和DSG的小型机部署在新机房，当系统切换时，保证系统的稳定性（电源、网络、制冷等）；原有的IBM DS4300性能无法满足生产系统需求，利用原有的IBM P550小型机组建测试库系统，供容灾测试使用；目前数据全部采用在线保护系统，可以保证数据在出现问题时可以快速的恢复，保证系统的连续性。但是系统屏蔽逻辑错误的能力很低，为了保证系统抵抗逻辑错误的风险，部署DSG及Networker数据备份系统，实现系统数据的离线备份，可以将系统数据恢复到过去某一个时间点，保证数据的安全。在灾备机房部署VMwar

8、e服务器虚拟化的容灾保护平台。二期系统改进计划二期实施内容1台IBM P740小型机1台EMC VNX5400存储2台EMC DS6510B SAN交换机1台EMC VPLEX Metro节点EMC VPLEX Local升级MetroDSG容灾软件实施EMC Networker备份软件VMware服务器虚拟化容灾保护系统（VMware SRM）二期系统架构生产机房灾备机房裸光纤存储虚拟化EMC Vplex光纤数据流图例EMC VNX5500EMC VNX5300Oracle RAC数据同步EMC VNX5400IBM P740IBM P740Oracle DG存储池存储虚拟化EMC Vple

9、xIBM P740虚拟机灾备端IBM_P550 DSGLAN虚拟机VMware SRM2014年EMC VplexMetro双活数据中心架构，保证2个机房中任何一个的存储和主机出现故障，系统仍然能提供服务；新增EMC VNX5400存储，增加Vplex存储池的容量及性能，满足业务发展的需要；在极端状况下，如果生产中心机房出现电源故障，系统可继续有灾备中心机房设备提供业务服务；当前业务灾备系统有两套（OracleDG，DSG），分别在两个中心机房有容灾库，出现生产环境崩溃的情况下可较短时间将备用库拉起提供服务，同时保证数据不丢失；当前生产环境还有独立的一套EMC networker备份系统，每天

10、对生产环境数据库进行备份，最大限度保证数据安全性，同时提供屏蔽数据逻辑故障的能力。在极端情况下，如果生产中心机房出现电源故障，接受Vmware SRM保护的虚拟机会在容灾机房自动重新启动提供服务。二期建设成果双活数据中心建设的优点稳定性性能均采用业界领先的解决方案及产品（IBM、Oracle、EMC、VMware），大大的提高医院的系统处理能力，保证业务流畅运行。系统均采用冗余架构设计（主机、存储、网络），结合服务器虚拟化、存储虚拟化、数据备份、数据库在线备份等一系列技术手段，保证医院系统的连续不中断。三期规划2016年底新院区建成后（2地3中心）生产机房-通灌院区生产机房-新海院区（1#机房

11、）裸光纤存储虚拟化EMC Vplex光纤数据流图例EMC VNX5500EMC VNX5300OracleRAC数据同步EMC VNX5400IBM P740IBM P740Oracle DG存储池存储虚拟化EMC VplexIBM P740虚拟机虚拟机虚拟机灾备端EMC VNX5400（新购）IBM_P740（新购） DSG灾备机房-新海院区（2#机房）CDP设备连续数据保护LANDSG数据同步VMware SRM目录医院简介系统简介一期、二期、三期方案设计 实施方案系统测试一期设备清单设备名称设备型号品牌型号1小型机IBMP7402小型机IBMP7403磁盘存储EMCVNX55004SAN

12、交换机EMCDS300B5SAN交换机EMCDS300B6存储虚拟化产品EMCVPLEX7数据库双机软件oracleOracle RAC8数据库容灾软件DGDataGuard9服务器虚拟化VMwareVMware vSphere 5.1（测试环境）二期设备清单设备名称设备型号品牌型号1小型机IBMP7402磁盘存储EMCVNX54003磁盘存储EMCVNX55004SAN交换机EMCDS6510B5SAN交换机EMCDS6510B6存储虚拟化产品EMCVPLEX-Metro7存储虚拟化产品升级EMCVplex local升级Metro8数据库容灾软件DSGDSG RealSync9数据备份软件

13、EMC EMC Networker7.610服务器虚拟化VMwareVMware vSphere 5.511服务器虚拟化容灾VMwareVMware SRM 5.0一期网络管理IP地址设备172.32.255.1VNX5300_SPA172.32.255.2VNX5300_SPB172.32.255.3VNX5500_SPA172.32.255.4VNX5500_SPB172.32.255.5VPLEX172.32.255.6EMC_DS300B_1172.32.255.7EMC_DS300B_2物理设备IP管理主机IP用途p740a192.168.0.65p740a_pubic10.10.1

14、0.1p740a_private192.168.0.67p740a_vipp740b192.168.0.66p740b_pubic10.10.10.2p740b_private192.168.0.68p740b_vipOracle RAC IP地址一期存储管理Raid GroupRaid TypeRaid Size0r5600GB1r101.5TB2r51.2TB3r52.4TBNameLUN NumberLUN SizeDefault SPRaid GroupRaid TypeDisk TypeP74001.0 GBA3r5FC11.0 GBB3r5FC2300.0 GBA1r10FC330

15、0.0 GBB1r10FC二期网络管理 设备IP生产机房Vplex-cluster1172.32.255.5VNX5400 SPA172.32.255.24VNX5400 SPB172.32.255.25DS6510B_UP172.32.255.21DS6510B_DOWN172.32.255.20P740a192.168.0.65P740a-vip192.168.0.67P740dg192.168.0.208容灾机房Vplex-cluster1172.32.255.23VNX5500 SPA172.32.255.3VNX5500 SPB172.32.255.4DS300B_UP172.32.

16、255.6DS300B_DOWN172.32.255.7P740b192.168.0.66P740b-vip192.168.0.68NetworkerBackupServer192.168.0.108P550(4C,16GB)192.168.0.8Oracle实例用户名密码-IBM_2005_B16光纤交换机_UP172.32.255.26IBM_2005_B16光纤交换机_DOWN172.32.255.27二期存储管理Raid GroupRaid TypeRaid Size0R102.1TBSAS_POOLR515TBNL_SAS_POOLR521TBNameLUN NumberLUN Si

17、zeDefault SPRaid GroupRaid TypeDisk TypeP740111.0 GBA0r10SAS121.0 GBB0r10SAS131.0 GBA0r10SAS141.0 GBB0r10SAS151.0 GBA0r10SAS16300.0 GBB0r10SAS17300.0 GBA0r10SAS18300.0 GBB0r10SAS20750.0GBB0r10SASP740DG0300.0 GBA0r10SAS1300.0 GBB0r10SAS19100.0GBASAS_POOLR5SASVmware_esx03-062 2TBASAS_POOLR5SAS32TBBSAS

18、_POOLR5SAS415TBANl_SAS_POOLR5SAS目录医院简介系统简介一期、二期、三期方案设计 实施方案系统测试测试场景一：RAC节点服务器出现故障故障发生直接断开RAC群集中第一个节点服务器的电源故障监控查看Oracle RAC节点实例状态故障解决恢复RAC群集中第一个节点服务器的电源，并开启服务器预期结果节点服务器宕机期间，Oracle客户端不受影响，可以持续访问Oracle数据库服务器。结论Oracle数据库RAC群集不受其中一个服务器节点故障的影响，可以持续向客户端提供服务。Oracle客户端连接自动Failover到第2个节点服务器上测试场景二：同一Fabric的2台SAN Switch线路故障故障发生断开同一Fabric的2台SAN Switch的级联线故障监控VPLEX-Metro层面的监控故障解决恢复同一Fabric的2台SAN Switch的级联线预期结果主机应用不受影响结论主机应用不受同一Fabric的2台SAN Switch级联线断开的影响登录完成后可以看到VPLEX的状态。点击View Status Deta