银行开放平台OLTP数据库转型方案

1、银行开放平台 OLTP数据库转型方案数据库转型背景转型的发展历程转型成效后期工作思路01.02.03.04.201处理能力系统规模庞大，集中式架构设计，单一系统垂 直扩展模式，扩展能力有限更高的业务连续性保障要求，例如7*24 业务不中断03快速交付应用内部模块、应用与应用之间耦合度高，使得 软件开发和产品服务交付周期长04成本控制02运行风险大型主机运营费用昂贵，商业产品License 费用高，银行议价能力低优化应用架构、数据架构、技术架构，建设灵活开放、高效协同、安全稳定的IT架构体系，强化对业务快速创新发展的科技支撑 传统IT架构挑战3业务支撑能力高并发、可扩展， 海量数据存储及访问两地

2、三中心高可用 容灾降低使用成本基于通用的廉价的硬 件基础设施自主可控的能力， 行 内适配定制降低商业产品依赖， 提升议价能力运维能力提升数据库的运维自动/智能化能力更开放的技术体系以利 于自主掌控， 更本地化 的服务支持集中式分布式专有通用商业开源 开放平台OLTP转型的核心诉求及策略4数据库转型背景转型的发展历程转型成效后期工作思路01.02.03.04.5分布式原型研究初2016年2017.052017年末2018.122019.01开放平台数据库转型规划2016.122018.082018.052018.10OLTP分布式数据库研究2018.10架构优化及云化部署2019.03OLTP数

3、据库技术路线原型研究阶段基础研究及试点转型实施及推广12开源MySQL产品研究3开源MySQL能力建设45基于中间件MySQL分布式上线高可用、运维能力的提升67资源使用效率提升MySQL云化及自助能力建设 工行开放平台OLTP转型发展历程6分布式OLTP数据库、NewSQL数据库待检验开源MySQL在业界有很丰富的案例从分布式架构角度解决自主可控开源/商业OLTP分布式数据库分布式架构NewSQL 原型阶段方案选型调研?7应用分布式技术栈分布式批量框架分布式服务分布式事务框架分布式消息开发及运维管理交易数据核对及补偿配置中心分布式缓存开源MySQL 原型阶段分布式架构技术栈8本地高可用按SE

4、T分组：配置中心设置的路由策略，实现快速自动切换到备节点数据半同步复制：支撑业务快速恢复，故障时数据零损失同城高可用故障切换：配置中心动态路由，实现同城切换数据一致性保障：事件跨园区双写节点双园区数据互备事件与备库数据短时间间隔快速比对差错/可疑数据冻结处理（限制服务）补偿机制：备库与在途数据比对，找到差异，冻结数据进行应用补账原型阶段MySQL高可用9开源MySQL基础研究及应用试点运维支持产品基础研究应用开发设计21个应用211个节点实现同城RPO=0、RTO=分钟级目标10分布式访问层：应用透明/灵活拆分、开源自主可 控支持Hash/Range/List等多种分片算法，可扩展， 满足垂直

5、数据分片、水平数据分片、混合分片等场景 数据节点分片扩展支持简单的跨库汇集查询提供类似集中库的操作体 验可通过集群解决自身高可用问题分布式 访问层集群高可用 负载均衡DBLESQL转换和分发分片1Shard1 MShard1 S分片2Shard2 MShard2 S分片NShardN MShardN S 分布式中间件引入转 型 实 施 及 推 广 阶 段DBLE11定制研发MySQL客户端组件，分 布式中间件DBLE、数据库管理平台， 实现组件的联动支持节点状态监控告警、安装部署、 高可用自动切换、自动补数等功能采用开源MySQL和原生态数据复 制技术，一主多备架构，实现多份数 据冗余一致性保

6、障节点Agent节点Agent运维管理区域MySQL管理平台配置系中心统管高理可用管理模块 性能容量监控模块安装部署备份恢复服务端口管理端口分布式数据访问层动态管理MySQL集群数据操作状态上报系统管理数据库管理动态管理数据操作运维人员业务系统负载均衡 联机OLTP数据库解决方案转 型 实 施 及 推 广 阶 段12 完善运维管理能力 转 型 实 施 及 推 广 阶 段监控告警故障分析自动巡检批量部署能力提升自动化安装部署实现批量安装部署缩短业务上线时间监控告警建立告警基线建立应急流程故障分析完善日志记录，采集和分析建立故障分析规范自动巡检自动化巡检和评分报告实例健康状态评分13 完善运维管理

7、能力 转 型 实 施 及 推 广 阶 段自动化高可用决策系统多份数据冗余，基于MySQL复制技术（半同步复制）和 多数派共识机制实现冗余备份通过MySQL binLog日志自动数据补全，实现故障切换后 数据一致性本地/同城自动化切换，RTO60s，RPO=0，提供业务 连续保障 故障自动切换（高可用/一致性）转 型 实 施 及 推 广 阶 段15主库 + 本地1台半同步备库 + 同城2台半同步备库主库故障时，优先切本地；一键式同城快速切换本地/同城 RPO=0，RT060s；备注：NBU（NetBackup）备份是Symantec的开放平台集中备份软件，将生产系统的数据保存到物理磁带中高可用方

8、案优化转 型 实 施 及 推 广 阶 段16实现异地灾备快速切换（RPO、RTO分钟级）单台服务器可提供IO能力大幅提升，交易响应 时间提升50% 异地灾备和存储优化转 型 实 施 及 推 广 阶 段17MySQL容器镜像一键式环境供给能力资源使用效率提升4倍-5倍MySQL容器PAASIAASMySQL上容器转 型 实 施 及 推 广 阶 段18数据库转型背景转型的发展历程转型成效后期工作思路01.02.04.03.19运行情况支撑核心业务日均交易高达7亿，双11、春节红包等特殊节假日高峰期（ 高达1.5万TPS）两地三中心架构，同城RPO=0， RTO60S成本主机压降明显，逐年降低商业数

9、据库使用零增长应用转型120多个应用，2000多个节点涉及主机下平台、Oracle迁移、应用重构等多种场景自主能力分布式框架+MySQL的应用 级分布式解决方案MySQL联机交易分布式数据 库 工行开放平台OLTP转型实施效果转 型 实 施 及 推 广 阶 段20典型实施案例个人账户平台转 型 实 施 及 推 广 阶 段应用特征交易特征：高并发、低延时，日均交易量3亿，交易延 时100ms；7*24联机服务，高可用架构：同城分片双活实施效果：日均交易量1亿以上服务路由本地高可用自动化切换，RPO=0,RTO30s同城高可用切换：人工决策、一键式切换 RTO分钟级21应用特征交易特征：高并发、低延时，日均交易量2亿， 交易延时10ms；业务数据量20T，7*24联机服 务，高可用架构：MySQL分库分表，应用双活实施效果：日均交易量1亿以上分库分表，一致性Hash算法、智能路由，128个分 片，合并部署日间联机（读）、夜