![数据库中间件设计与实现_第1页](http://file4.renrendoc.com/view/2172e6ed346b60737f600b73190af31f/2172e6ed346b60737f600b73190af31f1.gif)
![数据库中间件设计与实现_第2页](http://file4.renrendoc.com/view/2172e6ed346b60737f600b73190af31f/2172e6ed346b60737f600b73190af31f2.gif)
![数据库中间件设计与实现_第3页](http://file4.renrendoc.com/view/2172e6ed346b60737f600b73190af31f/2172e6ed346b60737f600b73190af31f3.gif)
![数据库中间件设计与实现_第4页](http://file4.renrendoc.com/view/2172e6ed346b60737f600b73190af31f/2172e6ed346b60737f600b73190af31f4.gif)
![数据库中间件设计与实现_第5页](http://file4.renrendoc.com/view/2172e6ed346b60737f600b73190af31f/2172e6ed346b60737f600b73190af31f5.gif)
版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
数据库中间件设计与实现1纲要MySQL存在的问题主流MySQLProxy方案中间件的设计与实现总结2MySQL存在的问题读写分离在客户端中配置所有DB信息,并实现读写分离DB上下线业务受影响运维跟开发需同步调整配置3clientdb_masterdb_slave主从同步MySQL存在的问题4分库分表客户端改写SQL语句客户端将SQL路由不同的DB客户端聚合结果db1db3db2sql1sql2sql3sqlmergeresult中间件的目标5减轻开发工作量支持SQL读写分离支持数据分库分表减轻运维工作量无需与开发同步高可用减少运维工作主流MySQLProxy方案6主要解决方案DBProxyMysql官方产品,但只出到Beta0.8,基本不维护BUG多、扩展功能较难C语言开发国内衍生:360Atlas、MeituanDBProxy、SohuDBProxy...Cobar功能简单基本不维护JAVA开发阿里内部已发展为TDDL(非代理模式),并在阿里云DRDS中大量使用国内衍生:MyCatVitessYoutube开源的数据库扩展及高可用方案,已经用于生产环境功能强大,但是构架复杂,部署及运维成本较高GOLANG开发国内GO开发:Kingshard中间件核心功能7读写分离数据分库分表平滑上下线DB中间件实现8SQLParser数据分片SQL路由结果归并连接池设计后端DB的高可用方案高可用方案安全审计架构设计9整体架构图SQLParser10SQL
Parser的设计与实现词法分析器将SQL切分语法分析器根据词法分析器结果和MySQL语法规则生成AST(abstractsyntaxtree)相关产品
目前常见的SQL解析器主要有fdb/jsqlparser和DruidSQL词法分析语法分析AST根据分片规则生成新
SQL数据分片
11分片概念逻辑:将数据落在不同的DB实例中的不同子表中分片方式:Hash、Range、Time_Range等Shardkey类型:整型、MySQL标准时间类型等数据到实例采用两级映射方案shard_keysub_tableDBdata数据分片12select*fromtabwhereid=10rangehashtimeconfigselect*fromtab_0001whereid=10calculatetableindexSQL路由
13路由概念SQL路由是根据分片规则配置,将SQL定位至真正的数据源结果归并
14归并概念结果归并包括4类:普通遍历类、排序类、聚合类和分组类。每种类型都会先根据分页结果跳过不需要的数据。普通遍历类最为简单,只需按顺序遍历ResultSet的集合即可排序类结果将结果先排序再输出,因为各分片结果均按照各自条件完成排序,所以采用归并排序算法整合最终结果分组类最为复杂,需要将所有的ResultSet结果放入内存,使用map-reduce算法分组,最后根据排序和聚合条件做相关处理。最消耗内存,最损失性能的部分即是连接池设计15目标复用连接,降低后端DB压力方式一个DB实例对应一个连接池连接池个数上限可配置,无空闲连接则阻塞效果前端高并发,MySQL负载不会抖动限制连接池个数,保护后端DB不至于宕机连接池设计16middlewareDB1ConnPoolConnPoolDB2connconnconn......poppush连接取出时:重置字符集重置Database后端DB的高可用方案17方式使用独立线程检测DB状态定期检测每台DB是否正常,周期和重试次数均可配置效果自动摘除宕机或网络中断的DB自动挂载恢复正常的DBmiddlewareDB_MasterDB_Slave1DB_Slave2select1select1select1高可用方案18安全与审计19客户端IP限制用户自定义IP白名单列表SQL黑名单用户定义黑名单SQL列表慢SQL记录用户自定义慢日志耗时大小
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 2015.6.13-java第六章类和对象章总结
- 三年级上语文教案语文实践活动1-北京课改版
- 《音视频设备红外线遥控编码规则GBT+33773-2017》详细解读
- 幼儿园小班语言课件:《我先来》
- 2022年度辽宁省安全员之C证(专职安全员)提升训练试卷B卷附答案
- 2022年度辽宁省安全员之C1证(机械安全员)能力检测试卷B卷附答案
- 演讲稿500字范文(32篇)
- 集体备课个人交流发言稿
- 我国商业健康保险和医疗保障体系衔接路径研究
- 2024年爱康国宾项目经营分析报告
- 小学生主题班会 拒绝作弊+诚信考试+宣传教育 课件(共28张PPT)
- 一例急诊心梗心跳骤停复苏成功案例查房
- 开关电源设计注意的要点
- 冠状动脉介入治疗及护理
- 危险废物识别标志设置技术规范PPT
- 幼儿园年检报告:开展业务活动情况3篇
- 七年级下数学专题培优讲义-辅助线构造-教案(含答案)
- 有限空间应急预案演练记录
- 2023年预防接种技能竞赛笔试题库
- 北京市海淀区2022-2023学年数学五年级第二学期期末学业质量监测试题含解析
- GB/T 20200-2022α-烯基磺酸钠
评论
0/150
提交评论