服务治理的技术演进之路

1、服务治理在猫眼娱乐的技术演进之路录outline01020304猫眼业务临的难点微服务稳定性保障微服务架构演进未来规划与探索录outline01020304猫眼业务临的难点微服务稳定性保障微服务架构演进未来规划与探索服务治理的关键要素系统：确保服务能够按照业务愿景进运和演进：确保在之上作的程师能够取得最的舒适感系统人多语业务耦合爬恶意流量业务洪峰常柔性系统稳定性人效猫眼在该领域临的主要难点数千万DAU百亿级调百万级QPS2017年春节档Redis千兆卡打满带来的严重影响向猫眼过千的服务，中间件动辄半年以上的版本升级周期举个栗录outline01020304猫眼业务临的难点微服务稳定性保障微服务

2、架构演进未来规划与探索可治理在猫眼的落地理论架构压测试故障演练容量评估预案设置限流熔断降级报警整体复盘专项优化故障前故障中故障后向故障全命周期进治理 乐观与悲观并济流量下的概率性故障可治理在实际产中的难点与挑战如何摆脱黑盒运营 的困境？如何解决快速恢 复导致雪崩？如何无侵入故障 注入？如何应对秒杀的挑 战？Client Side vs Server Side？如何避免有术无 道的困局？禹 - 可治理中动化的限流、熔断、降级、隔离、演练、监控报警的站式可性保障案禹 - 可治理中预测与模型共享带来的0延时体验轻接使运维升级成本下降70%以上性能的极致优化，RT在9us策略复率90%以上禹 - 系统

3、架构无延时轻接入高性能低成本恶意流量档期来临演唱会抢票禹 - 限流 - 临的场景恶意流量2016档期洪峰2017-2018促销/秒杀活动2018演出百万QPS秒杀2019精细化为名单内容特征持续洪峰限流客户端限流降级预案单机限流持续洪峰限流单机限流瞬时洪峰限流Set化策略引擎 任意维度组合 滑动窗计数特征库积累 去噪预测算法 按时批量缓冲 就近多维度缓存 然窗计数控四化权衡动态Ratelimiter流量打平多级组合与降级分析同步化1234禹 - 限流 - 洪峰下准确与实时的场应对Tips阶段精细化过滤快速熔断阶梯错误标准自定 恢复义更可靠的错误 率判断禹 - 熔断 - 快速熔断与阶梯恢复禹 -

4、 演练 - 多维打通型演练余次数百次故障注覆盖所有核链路发现近百个问题，含数个P0级问题整合压测与 故障演练预案演练不 影响线上演练全生命 周期管理灰度链路常 规化演练秒级流量探 测多维度图表自动巡检流量预观察禹 - 监控 - 精细化运营录outline01020304猫眼业务临的难点微服务稳定性保障微服务架构演进未来规划与探索HAProxyNginxTengineDubboThriftGrpcServicemesh微服务架构演进 - 如何提升效中心式治理融合式 分散治理贴合式 分散治理有节制、可插拔、半贴合式的中治理服务格在猫眼的落地理论架构Servicemesh在产环境应的难点与挑战控制板

5、的边界如何切割？能下沉带来新的单体应问题如何解决？对业务进程零侵现实吗？交付质量如何保障？性能和资源开销不可忽视如何最程度保障可性？盘古 - 服务治理中下代的服务连接、注册、发现、中间件管理的站式解决案盘古 - 服务治理中盘古 - 数据平架构ResourceStarterTransporterConnectionListenerEventLoopTransportSessionAccept FilterReadWrite FilterProtocolStreamReceiverStreamStreamSenderRouterMatcherLoadBalancerClusterStreamRou

6、terStreamReceiver FilterStreamSender FilterFailoverConnManagerHolderDuplex DefenderHotRestartXDSMetricsBuer ManagementPool ManagementSPIFrameworkServerAdminPicker盘古 - 控制平的切割与优化遥测下沉，限流接建流控，解决性能问题服务注册与发现整合，提供完整解决案配置型平MMCP协议快速接，Pilot零成本数据型平和普通应致性对待，践Pet&Cow理论:DWFK8Q:DWFK3XVK3DVVWKURXJK3RUWDO$SSOLFDWLRQ

7、 $3RUWDO$SSOLFDWLRQ %7UDFH3RUWDO3RUWDO2FHDQXV5HJLVWU$WKHQD$WKHQD5HJLVWU5HJLVWU&RQJ6HUYHU5HJLVWU5HJLVWU0HWD6HUYLFH;6 $3,;6 5RXWHU;6 0DSSLQJ;6 $GDSWHU3LORWIPC65543.53.3322.11.71.310.90.70.60.50.50.406000100001500020000tcpudsudsmmap盘古 - 性能优化9.69.81010.210.410.610.81110010005000QPS-延时500直连Servicemesh异步S

8、tream通讯模型协程、字节、对象资源池化COW & CAS锁化设计Payload后置Header+Body复时间轮单例化处理IPC优化探索压测：0.1ms，灰度：0.5ms稳定性：99.9998%CPU：0.8876%MEM: 30.67M研框架RT最较TCP/UDS提升30%盘古 - 全的可性保障CA/PA状态机驱动平滑发布双注册中结合平滑发布保活、流量防御、兜底直连多维度灰度、键回滚类Eureka我保护Mesh经常性发布业务应发布Mesh宕机业务灰度注册中络分区注册中不可多级缓存场景策略&$&3$33LORW$WKHQD3LORW3LORW$WKHQD5HJLVWU6.6.盘古 - CI/CD闭环建设场景初始化智能调度预热、梯度、探顶指标动采集压测报告动成复杂拓扑、随机、概率事件请求响应包体伸缩、重启、宕机流量规模自动化 性能测试自动化 混沌测试盘古 - 数据平“服务化”三层切割头尾合井自由拼装