基于RocketMQ打造定制化DevOps平台

1、基于RocketMQ Prometheus Exporter打造定制化DevOps平台技术创新，变革未来Prometheus 简介RocketMQ-Exporter 的具体实现RocketMQ-Exporter 的监控指标和告警指标RocketMQ-Exporter 使用示例目录Prometheus 简介1. Prometheus启发于Google的BrogMon系统Prometheus 简介 2. 监控系统的目标长期趋势分析对照分析告警故障分析与定位数据可视化Prometheus 简介 3. 基本架构Prometheus 简介 3. Prometheus的优势易于管理易于集成、监控服务的内部

2、状态强大的数据模型强大的查询语言PromQL高效可扩展、开放性Prometheus 简介 4. 数据模型http_request_totalstatus=“200”, method=“GET”，handler=“/tarck” 1434417560938 = 94355handler=/tracks Prometheus 简介handler=/tracks 5. Metrics 类 型Counter:只增不减的计数器eg：接口调用量Gauge: 可增可减的仪表盘eg:接口调用耗时、内存占用、cpu占用Histogram、Summary : 分析数据分布情况eg:分别统计耗时在0-50ms、10

3、0-200ms的请求量 eg:TP50、TP99、TP99.9分位数Prometheus 简介handler=/tracks 6. PromQLrate(http_request_total status = “404|500|501“ 1m )FunctionMetricFilterParameterrateirateincreasepredict_linearhistogram_quantile=!=!Prometheus 简介handler=/tracks 6. PromQL(续)sum (rate (http_request_total status = “500|501“1m ) b

4、y(handle聚合summin,max,avgbottomktopkquantilePrometheus 简介handler=/tracks 6. PromQL(续)sum (rate(http_request_total status = “404|500|501“1m )） by(handler,status)/ ignoring(status) sumgr(oruapte_le(hfttp_request_total1m )） by(handler)一对一匹配模式一对多匹配模式多对一匹配模式RocketMQ-Exporter 的具体实现 1. Prometheus Exporter h

5、andler=/tracks RedisExporterMysql ExporterKafka ExporterRocketMQ ExporterNodeExportercAdvisorRocketMQ-Exporter 的具体实现 2. RocketMQ Exporter handler=/tracks MQAdminExtMetricsServiceRocketMQ cluster请求数据返回数据规范化数据模型Metrics接口暴露CollectRocketMQ-Exporter 的监控指标和告警指标 1. 监控的黄金指标 handler=/tracks 延迟1、发送消息延迟2、消费消息延

6、迟、拉取消息延迟3、消费消息落后生产消息的时间、消息堆积量4、主从延迟5、发送消息排队时间6、消费消息排队时间通讯量1、每秒发送消息的数量 （topic=xx1,broker=xx2,cluster=xx3） 2、每秒发送消息的字节数(topic=xx1,broker=xx2,cluster=xx3)3、每秒消费消息的数量 (consumegroup=xx1,broker=xx2,cluster=xx3)4、每秒消费消息的字节数(consumegroup=xx1,broker=xx2,cluster=xx3)RocketMQ-Exporter 的监控指标和告警指标 1. 监控的黄金指标(续)

7、handler=/tracks 错误1、消费失败的次数2、未读取到消息的次数3、触发限流的原因饱和度1、内存、磁盘I/ORocketMQ-Exporter 的监控指标和告警指标 2. RocketMQ-Exporter监控指标 handler=/tracks RocketMQ-Exporter 的监控指标和告警指标 2. RocketMQ-Exporter监控指标 （续） handler=/tracks RocketMQ-Exporter 的监控指标和告警指标 2. RocketMQ-Exporter监控指标(续) handler=/tracks RocketMQ-Exporter 的监控指标

8、和告警指标 3. RocketMQ-Exporter告警策略 handler=/tracks 邮件webhookslackAlterManager微信RocketMQ-Exporter 的监控指标和告警指标 3. RocketMQ-Exporter告警策略（续） handler=/tracks RocketMQ-Exporter 的监控指标和告警指标handler=/tracks 4. RocketMQ-Exporter 高 级 PromQL (sum(rocketmq_producer_offset) by (topic) - on(topic) group_right sum(rocket

9、mq_consumer_offset) by (group,topic)-ignoring(group) group_leftsum (avg_over_time(rocketmq_producer_tps5m) by (topic)*5*60 0handler=/tracks RocketMQ-Exporter使用示例handler=/tracks RocketMQ-Exporter使用示例handler=/tracks RocketMQ-Exporter使用示例handler=/tracks RocketMQ-Exporter使用示例handler=/tracks RocketMQ-Exporter使用示例handler=/tracks RocketMQ-Exporter使用示例handler=/tracks RocketMQ-Exporter使用示例handler=/tracks RocketMQ-Exporter使用示例handler=