微服务架构体系深度治理

微服务架构体系的深度治理目录服务治理发展简史单体应用企业级SOA互联网服务化微服务微服务度量微服务线上体系治理微服务线下体系治理治理问题梳理改进优化复杂度服务治理发展简史单体应用没有服务的概念，所以谈不上“服务治理”，复杂度来自于自身内部组件，由于组件化的管理需要，衍生出“组件治理”的需求。服务治理发展简史企业级SOA主要解决已有系统的整合(互联互通)问题技术实现及流程繁琐复杂、治理成本高覆盖面广、涵盖企业IT各方面，和IT治理重叠度高传统IT大厂（IBM、Oracle）把持标准手工治理比重大、自动化程度不足SOA服务治理服务治理发展简史互联网服务化伴随业务拆分应运而生主要解决业务的快速响应及系统复杂性扩散问题实现形式五花八门，有标杆、但没有统一标准聚焦线上服务的生命周期治理强调自动化CacheDBNFS/DFSLoad

Balancerwebsitewebsitewebsiteserverserverserverserver服务治理发展简史微服务“任何组织在设计一套系统时，所交付的设计方案在结构上都与该组织的沟通结构保持一致。”——康威定律大平台、微服务和容器技术紧密结合量变导致质变，不仅仅是服务化架构的延伸组织架构、管理策略、研发模式、测试、运维等领域都要做出相应的调整，以为微服务架构的落地创造合适的“土壤”。线上线下一体、全生命周期的立体化治理强调自动化、智能化服务治理发展简史微服务治理整体架构：三位一体线下线上度量管控管理目录服务治理发展简史微服务度量全生命周期度量指标获取度量及分析体系微服务线上体系治理微服务线下体系治理如果你不能度量它，你就无法改进它——

彼得.德鲁克微服务度量全生命周期度量指标获取

产品

UserStory需求

开发

人员团队任务产出物

测试

测试用例Bug/缺陷运维调用量调用延时系统异常业务异常运维事件持续集成敏捷DevOps协同管理过程过程事件持续交付

线下

需求管理系统项目管理系统测试用例管理系统缺陷管理系统CI/CD流水线运维流程管理平台软件版本仓库源码仓库…

…线上服务注册中心主机日志应用/服务日志APM监控…

…是不是少了点什么？微服务度量用代码来“理解”代码业务 产品 架构需求 设计 设计软件研发是一项协作性的智力行为，所有的思考、意图、策略最终都体现在了代码上。因此，一个系统的代码就是一本“书”，读懂它，我们就能知道系统的“前世今生”。问题是，我们如何“读懂”这本“书”？代码关系链路关系一切源于源代码…入口 关系继承 实现微服务度量微服务治理度量及分析体系目录服务治理发展简史微服务度量微服务线上体系治理服务限流集群容错服务降级、熔断故障定界定位容量规划资源治理线上生命周期管理微服务线下体系治理微服务线上体系治理接口调用路由寻址协议编码远程通信服务调用实例定位协议解码远程通信序列化流控模式1流控模式2流控模式3服务限流限流算法选择策略：漏桶算法令牌桶算法限流难点：标准化体系化限流原则：限流前置单机限流集群限流微服务线上体系治理集群容错微服务线上体系治理关闭打开半开失败[达到开关阈值]失败[低于开关阈值]熔断器时间窗结束失败成功成功创建Command熔断器开启？线程池拒绝？执行执行FallbackFallback成功？获取结果是,返回fallback否,抛出异常

否

是是执行失败？是执行超时？是

否

否Metrics

否,返回结果 服务降级、熔断标准化体系化预案化微服务线上体系治理故障点异常排序大盘异常明细大盘异常明细列表请求调用链性能大盘访问散点图故障定界定位1：异常排查2：异常排查3：性能排查微服务线上体系治理容量规划容量预估基于“依赖”关系逐层推进的性能压测性能压测数据的准备及区隔微服务线上体系治理资源治理从服务的视角看资源基于应用视角的数据库（DB）性能及容量优化（慢查询、高频调用、…）基于应用视角的缓存（Cache）性能优化(读写比例、命中率)基于应用视角的消息队列（MQ）性能优化（生产、消费、堆积）基于应用视角的其它资源性能（或容量）优化（XX指标、YY指标、…）调用次数：1000总耗时：109600msA

成功：998 失败：2

B服务 服务调用次数：998耗时：44000ms成功：998C调用次数：998耗时：32000ms成功：998D服务调用次数：2103总耗时：11000ms动作：send成功：2103MQ服务调用次数：998总耗时：10ms动作：update，insert，select成功：998 失败：2DB调用次数：4421总耗时：5432ms动作：send，put成功：4421Cache资源调用情况微服务线上体系治理线上生命周期管理“云化”助力微服务架构落地服务上线、下线服务扩容、缩容弹性计算资源是基础资源编排资源调度目录服务治理发展简史微服务度量微服务线上体系治理微服务线下体系治理架构治理开发治理测试治理构建调测能力协同管理治理微服务线下体系治理架构治理DAG的闭环检测最长调用深度检测核心服务检测冗余服务检测微服务线下体系治理架构治理“迪米特法则”遵循度检测通过动、静调用链路的结合清除冗余设计多余的业务逻辑链路异常处理链路旧版本兼容无触发逻辑微服务线下体系治理开发治理代码质量跨方法级别的代码质量检测注释密度及完备性检测个人开发质量个人线上质量度量：异常→服务→开发人员个人代码质量度量团队开发质量团队线上质量度量团队代码质量度量微服务线下体系治理测试治理测试覆盖度需求覆盖度代码覆盖度页面覆盖度测试用例维护成本度量新增用例判定新增用例内容占比存量用例变更度计算微服务线下体系治理调测能力构建微服务架构下“最大”的研发痛点基于微服务框架的Filter机制构建Mock能力在线抓取Mock数据综合调测能力最佳实践微服务线下体系治理协同管理治理两周一迭代火车发布模式，实行班车制，准点发车；统一发布日期，减轻部门沟通成本及开发压力；我们赶不上班车又等不了下趟，那就自己发车，按需发布；需求评审的时候，必须提供UI物料要预留debug和需求变更的buffer微服务线下体系治理协同管理治理数据驱动的精益看板过程指标度量持续交付效率优化总结微服