基于MongoDB的弹性文档服务介绍

1、基于MongoDB的弹性文档服务介绍CONTENTS整体架构挑战&实现未来规划01020304背景 一、背景什么是云开发？优势：一站式后端服务免运维专注业务逻辑，快速迭代三大基础能力：云函数：计算单元，编写并部署在云端的函数，随时 调用存储管理：文件上传/下载及管理功能数据库：用户核心数据存储，前端或云函数中对数据 库进行读写高性能低成本数据安全使用简单弹性扩展 一、背景对数据库的要求？灵活、易扩展数据高可靠成本低，最好支持按量付费API简单且相对丰富Restful API低延时，高性能NoSQLCONTENTS整体架构挑战&实现未来规划01020304背景产品特性Dynamodb完全托管的N

2、oSQL 良好的扩展性 REST API支持FirestoreREST、RPC等多种API支持文档模型 离线读写 弹性扩展MongoDB Stitch支持mongo协议MongoDB生态行业调研数据库选型数据库形态优势劣势SQLSQL语法完善 成熟的事务支持扩展性差NoSQL扩展性好 天然分布式灵活的kv模型，对 齐业界竞品事务能力较弱最终方案：基于CMongo自研 二、整体架构方案选型独占型共享型优点：一对一模型，隔离性好改动小，监控、扩容等功 能都可以复用大用户友好缺点：资源浪费严重，使用率低成本太高，无法应对海量用户量集群数太多，难以管理优点：多对一的模型，节省资源单用户成本低，超卖操作

3、空 间大集群个数少，管理维护方便缺点：多个租户共享一个集群，资源争抢，热点问题监控、告警、扩容等运维功 能需要重新开发 二、整体架构FlexDB的两种架构VSCONTENTS整体架构挑战&实现未来规划01020304背景 三、挑战与实现DB隔离权限隔离QoS限制QPS限制存储隔离，容量限制连接数限制按量计费原生MongoDB支持同集群不同DB分配不同user，权限隔离二次开发DB维度数据统计：mongos、mongod内核改造，支持 请求数，连接数，容量统计DB维度限流：令牌桶算法管控系统：实时采集，超过阈值告警、封禁如何实现？mongos：增加等待队列，判读过载mongod：提供运行状态信息

4、管控系统：资源实时采集，分析、通知mongos过载保护 三、挑战与实现集群过载保护Why？多租户，整体过载影响多个用户缺乏自我保护慢日志分类 X常用命令单独统计 X平均延迟指标 X指标类型监控维度太少mongos维度 mongod维度 （少）db/table维度 X分钟粒度监控监控维度 三、挑战与实现监控告警mongos平均延时慢查询请求数mongosinsert/query/update平均延时慢查询请求数mongod请求数mongod平均延时慢查询请求数mongod平均延时慢查询replica setmongodmonitorProxyStatsTableStatsReplStatsMon

5、godStats监控系统监控系统页面展示上报采集/异常事件监控事项：告警策略：基本CMongo集群指标DB维度基本指标集群内DB冷热情况分时段、级别、类别收敛规则告警系统告警 三、挑战与实现监控告警新指标 新维度支持官方没有的 监控指标和维度秒级监控更大统计量更多计算资源要求35+项新指标集群冷热监控库表维度统计全自研低侵入性消除统计信息影响 降低用户线程锁争抢更细粒度更频繁统计操作数据量更大计算分析要求更高延时更敏感用户请求路径上添加钩子采集数据耗时长unordered_map降低时延“无锁”队列降低锁争抢新增命令统计结果 三、挑战与实现难点与亮点现状资源分配算法单一、固定预计非活跃用户占比

6、超80%用户（即DB）存在明显冷热分布不支持大用户独占痛点多租户共享一个CMongo集群，存在资源争抢无法感知用户冷热变化不支持用户迁移 三、挑战与实现热迁移DB全量同步全量产生的 oplog同步oplog逐次逼近“停写”+最 后一次同步修改路由 访问目标集群 三、挑战与实现冷热分离分配算法优化冷热实例规则定义首次分配，默认所有用户都分配在温用户池不同用户池的CMongo集群规格不同热迁移温降冷、温升热、冷热互转调度数据正确性校验用户无感知基于冷备导数据，减少 对源节点侵入迁移调度算法优化，支持 冷热用户自动迁移oplog并行回放手动迁移 -自动迁移充分利用冷备资源，做 到对源节点几乎无影响解

7、析oplog，根据_id并行 回放，加速流水同步单集群200个租户，每个数据大小5GBcpu负载100%测试场景条件迁移时长迁移期间读写成功率99%请求来自一个租户117秒100%50%请求来自一个租户125秒100%请求均衡来自所有租户124秒100% 三、挑战与实现热迁移优化测试 三、挑战与实现备份&回档备份逻辑备份 VS 物理备份全量备份 VS 增量备份整实例备份 VS 库表备份全量备份间隔可调，流水持续备份，保证备份 连续性nowsnapshotrestoreReplay oplog难点分片集群回档数据+路由oplog并行回放回档与数据均衡互斥备份可能有“脏”数据，需过滤回档后重命名操

8、作如何处理？ 三、挑战与实现备份&回档回档集群回档 VS 库表回档可回档到最近14天内的任意时间点灾备实例断点续传同步进程高可用同步秒级延迟全量数据按表并发增量oplog并行回放同步延迟阈值告警 三、挑战与实现容灾同城容灾同城RTT 23ms客户端就近接入CMongo装箱算法适配强制跨3机房部署CostPerformanceAvailability多租户分DB的模型，降低了单用户管理成本通过冷热分离，降低存储成本依托CMongo的3副本，故障时快速切换跨机房容灾，解决单机房故障导致的不可用灾备集群，保证区域性机房故障数据可用定期备份，是保证数据安全的底线通过DB间热迁移，解决热点租户的问题过载保护，保证集群不会雪崩DB维度隔离，保证单个DB性