开源项目: prome_shard consulwatch+动态分片实现Prometheus采集端高可用

ning1875 · · 613 次点击 · · 开始浏览    
这是一个创建于 的文章,其中的信息可能已经有所发展或是发生改变。

开源项目地址:

项目地址: https://github.com/ning1875/prome_shard

项目说明

prometheus采集端单点问题

采集类型

  • 采集机器级别的指标
  • 采集k8s基础监控指标
  • 采集部署在lb后面的vm业务指标
  • 采集部署在pod里的业务指标
  • 采集各种中间件的指标 如kafka zk clickhouse等

面对如此复杂的采集类型,一般会使用一批采集Prometheus各司其职

sd发现问题

面对不同的采集来源,有对应的服务发现类型,如k8s_sd,我们修改Prometheus代码适配不同的服务发现类型,

  • 比如有一些指标挂在lb的后面,需要通过lb的服务发现来感知后端server的变化
  • 但是问题是每个采集器都是单点的,而且修改适配不同的发现源
  • 当然也可可以无脑启动多个相同的采集器采集同一组jobs,配合remote_write等补足单点问题,但带来额外的成本开销

各自适配不同发现源缺点总结

  • prometheus版本无法统一
  • 配置文件五花八门
  • 需要定义各种采集源或者sd方法

本项目介绍

使用一组采集器注册server到consul中,通过python反射运行定时任务,通过服务树等外部接口拿到targets池,一致性哈希分发给后端,统一通过file_sd生效,consul会对各组采集器实例做探活,当节点变化(宕机或扩容)会触发targets rebalance达到HA目的

架构说明

  • 解析配置文件
  • 同步注册服务到consul中
  • 开启监听watch结果变化的消费者
  • 异步watch各服务
  • 触发/get_service生成哈希环
  • 定时获取目标列根据哈希环生成各个节点的专属文件
  • 通过ansible下发 sd_result文件并reload prometheus

现有方式

  • 配置文件定义方法名称和对应的实例列表,在get_targets中反射定义对应的方法
  • sd本质说明:均能转换成file_sd,只需要给出对应的 target结构体就可以

    { "labels": { "group": "SGT", "env": "prod", "service": "scrape_prome", "region": "ap-southeast-3", "scrape_type": "vm", }, "targets": [ "localhost:9090" ] } 

采集器单点/固定分片问题

  • 无论是单点还是固定分片,都不是ha的,只要某一个分片的采集器挂了,那么损失对应的数据
  • 采用consul_watch_service方式,根据返回的健康实例生成一致性哈希环
  • 将target做分片分配给健康的节点采集即可

有疑问加站长微信联系(非本文作者)

入群交流(和以上内容无关):加入Go大咖交流群,或添加微信:liuxiaoyan-s 备注:入群;或加QQ群:692541889

613 次点击  
加入收藏 微博
添加一条新回复 (您需要 登录 后才能回复 没有账号 ?)
  • 请尽量让自己的回复能够对别人有帮助
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`
  • 支持 @ 本站用户;支持表情(输入 : 提示),见 Emoji cheat sheet
  • 图片支持拖拽、截图粘贴等方式上传