TiDB平台架构演进和实践

1、TiDB 架构演进和实战经验目录TiDB 介绍架构解析进化方向实战经验设计目标水平扩展高可用ACID 事务SQL at Scale架构解析整体架构SQL EngineMySQL 协议SQL 解析+优化无状态SQLASTLogical PlanOptimized Logical PlanCost ModelSelected Physical PlanTiKVTiKVTiKVtidb-serverStatisticsTiKVTiKVTiKVTiKV ClusterStorage Engine(1/2)分布式 KV 存储引擎分布式事务Raft：强一致的复制数据被拆分成多个 RegionRegion

2、可以分裂，合并，并在机器之间来根据负载流动原生支持 Coprocessor，加速 SQL Predicate Push DownTiKVTiKVTiKVTiKVTiKVTiKVTiKVTiKVTiKVTiKVTiKVTiKVTiKV NodesClientDataflowRegion 5Region 4Region 3Region 3Region 5Region 1Region 1Region 1Region 3Region 2Region 5Region 2TiKV node 1TiKV node 2TiKV node 3TiKV node 4Store 1Store 2Store 3Sto

3、re 4RPCClient (Key Value APIs or Coprocessor Call)RPCRPCRPCPD 1PD 2PD 3Placement DriverRaft GroupRegion 4Region 4Region 2Storage Engine(2/2)Scheduling进化方向HTAPReal-time Data WarehouseNo more ETL!Cascades OptimizerVectorize+Parallel Execution EngineCloud NativeEcosystem ToolsStorage Engine宽表存储行列混合存储冷热

4、数据分离只读副本实战经验典型场景大中台型业务多源数据实时汇总MySQL Sharding 的完美替代方案跨数据中心高可用部署异地多活和分库分表说再见MySQL MasterMySQL MasterMySQL MasterMySQL MasterMySQL MasterAs Slave ClusterSyncerSyncerSyncerSyncerSyncer大中台通往实时数据仓库异地多活- Geo replicationR1RackRackR2R1RackRackR2DC - 1DC - 2DC - 3R1RackRackR2R1RackRackR2DC - Seattle 1DC - Sea

5、ttle 2R1RackRackR2DC - Santa ClaraR1RackRackR2After scheduling维峰会广州站All in TiDB- 转转公司的 TiDB 实践实施效果：TiDB 整体响应延时非常稳定，不受业务流量高 峰影响TiDB/TiKV通过线性扩容无缝提升吞吐量微信小红点、世界杯促销承担 5 倍容量增长案例文章：TiDB 分布式数据库在转转的应用实践文章链接：/R1MAXEqMySQL + MongoDB大数据量性能瓶颈业务侵入 - 被迫 shading业务多维度成本、复杂度叠加增加运维成本故障切换时间长 & 高可用方案以前：解决方案：All in TiDB已

6、经上线 11 套 OLTP 系统，1 套 OLAP 系统，包括核心的 IM、交易、用户、商品等待上线 3 套，最终完成 90% 系统上线几十T 数据量、千亿级表、万级 TPS美团的 TiDB 实践案例美团数据库历史状态：MySQL + NoSQL数千服务器 + 万亿级请求数/天自研了 NoSQL 、 MySQL Proxy拥有多个业内顶级存储开发、数据库内核开发小组美团的 TiDB 实践案例美团下一代的数据库选型考量未来新美大业务几十倍的数据量增长目标，需要更强大的技术支持，数据库是关键基础组件之一所以对新一代分布式关系型数据库需求量远大于传统的 MySQL + NoSQL新美大的最终选择：T

7、iDB美团的 TiDB 实践案例线上使用情况：上线 10 套系统分布在如下 6 个事业群及平台：配送事业部出行事业部闪付事业部酒旅事业部美团平台基础研发平台OLTP 为主美团关于 TiDB 实践的一些经验开启 Region Merge 选项系统会自动将多个小 Region 合并成一个，降低路由信息维护的开销打开 dynamic-level-bytes加快删除数据后的空间回收速度更多细节参考美团的同学写的分享文章美团的 TiDB 实践案例深度参与开发，运维和推广成立专门 DBA 小组来进行 TiDB 试点、推广成立专门基础研发小组来进行 TiDB 开发合作，涵盖 SQL 层，存储层即将发布更多源

8、码级别的参与，改进经验系列文章HTAP 实例 - 易果生鲜的实践实施效果：T+1 数仓升级为实时数仓（T+0）。TiDB 天然的满足了数据量线性扩展的问题。同时还 大大的节省了运维成本。案例文章：TiDB / TiSpark 在易果集团实时数仓中的创新实践文章链接：/RTYVhzH业务现状：SQL Server 当数据量到达一定的阶段，性能出现拐 点，弹性扩展很难实现。HDFS + Hive + Spark + Presto + Kylin 方案在数据量增大的情况下，ETL 越来越慢，很难满足更复杂的OLAP 需求，但与此同时，业务对实时或者准实时 的需求越来越强烈。实施方案：使用 Flume

9、、syncer 数据实时同步到 TiDB。使用 TiSpark 替换 Hadoop 进行实时数仓业务。某国有商业银行的 TiDB 多活银行核心实例项目背景：核心支付交易系统物理规划IDC1、IDC2各配置两个机柜，均用于部署生产主集 群，IDC3一个机柜用于部署生产主集群，另一个机 柜用于部署灾备从集群。每个IDC配置两台万兆交换机（以主备模式部署）， 主集群各台机器内部通信、从集群各台机器内部通 信、主从集群之间都是使用万兆网络。全局DNS下挂载三个IDC的负载均衡，各IDC种负载均 衡挂载各自中心内部的TiDB服务器以上信息均来自行方对外发布的技术文章关于 PingCAPSince 2015Beijing, Shangh