您的位置: 首页 > 业界 > 正文

世界最新:prometheus 服务发现原理

2023-03-23 21:12:57 来源:腾讯云

服务发现

概述

如上图,Prometheus核心功能包括服务发现、数据采集和数据存储。服务发现模块专门负责发现需要监控的目标采集点(target)信息,数据采集模块从服务发现模块订阅该信息,获取到target信息后,其中就包含协议(scheme)、主机地址:端口(instance)、请求路径(metrics_path)、请求参数(params)等;然后数据采集模块就可以基于这些信息构建出一个完整的Http Request请求,定时通过pull http协议不断的去目标采集点(target)拉取监控样本数据(sample);最后,将采集到监控样本数据交由TSDB模块进行数据存储。


(资料图片)

为什么需要服务发现模块?

类似于微服务通过引入注册中心组件解决众多微服务间错综复杂的依赖调用。无论是服务主动停止,意外挂掉,还是因为流量增加对服务实现进行扩容,这些服务数据或状态上的动态变化,通过注册中心屏蔽服务状态变更造成的影响,简化了调用方处理逻辑。

同理,Prometheus最开始设计是一个面向云原生应用程序的,云原生、容器场景下按需的资源使用方式对于监控系统而言就意味着没有了一个固定的监控目标,所有的监控对象(基础设施、应用、服务)都在动态的变化。Prometheus解决方案就是引入一个中间的代理人,这个代理人掌握着当前所有监控目标的访问信息,Prometheus只需要向这个代理人询问有哪些监控目标即可,这种模式被称为服务发现(service discovery)。

目前,Prometheus支持的服务发现协议是非常丰富的,最新版本(2.41)已支持接近三十种服务发现协议:

服务发现配置解析

1、Prometheus服务启动加载prometheus.yml配置文件会被解析Config结构体:

Config结构体是配置类的最顶层结构,内部包含6个字段分别对应prometheus配置的6大组成部分。

2、其中数据采集配置部分ScrapeConfigs对应的是一个*ScrapeConfig类型切片,一个ScrapeConfig对应的是scrape_configs配置下的一个job抓取任务,服务发现协议配置对应其中ServiceDiscoveryConfigs字段:

3、discovery.Configs对应的是Config切片:

type Configs []Config

所以,一个job抓取任务下可以配置多个服务发现协议,如:

- job_name: "prometheus"  metrics_path: /metrics  static_configs:    - targets: ["124.222.45.207:9090"]  file_sd_configs:    - files:      - targets/t1.json      - targets/t2.json      refresh_interval: 5m

4、Config是一个接口:

Config是一个接口的定义,每种服务发现协议都会存在一个对应Config接口的实现(见下图)。该接口主要定义两个方法:

1、Name() string:定义服务发现协议类型,如eureka、kubernetes等等;2、NewDiscoverer(DiscovererOptions) (Discoverer, error):返回一个Discoverer类型变量,该类型也是一个接口,其只定义了一个方法Run方法,即Discoverer是对应的服务发现协议具体运行逻辑封装,通过Run方法提供统一的运行入口。
服务发现核心原理

说明:

Prometheus服务发现核心逻辑的入口主要关注Manager结构体的ApplyConfig方法:基于服务发现的配置使其生效;

ApplyConfig方法包括四个主要步骤:

type provider struct { name   string d      Discoverer subs   []string config interface{}}

❝一个job下一个服务发现协议对应一个Discoverer。❞

provider还有额外三个字段:

1、nameprovider名称,格式:fmt.Sprintf("%s/%d", typ, len(m.providers))

2、subsstring切片,存放job名称,因为可能不同job下存在一致的服务发现配置,就只会生成一个provider,然后subs存放job列表;

3、config:服务发现配置

启动Discoverer接口Run方法,让服务发现逻辑运行;协程中运行updater方法;Discoverer接口Run方法主要基于具体服务发现协议发现target,然后通过通道传递给updater处理逻辑,将其解析处理放入到Manager结构体中targets字段中,并向triggerSend通道发送信号,表示当前targets发生变更;Manager结构体sender方法每5秒监听triggerSend通道信号,并将Manager结构体中targets字段处理后放入到syncCh通道中;数据采集模块(scrape)监听syncCh通道,就可以获取到服务发现生成的targets信息,然后reloadtarget纳入监控开始抓取监控指标。启动provider:遍历Manager结构体中providers切片,启动每个provider,该步骤主要是启动两个协程:❝Manager结构体sender方法是在Prometheus启动时discoveryManagerScrape.Run()方法中启动。❞取消服务发现:配置变更也会调用ApplyConfig方法,这时就要把基于之前配置运行的服务发现服务取消,然后基于当前配置重新生成;清空:主要清空discoverCanceltargetsproviders几个容器元素,因为要基于当前配置重新生成;注册providerprovider是对Discoverer的封装,不同服务发现协议都会实现Config接口,其中NewDiscoverer方法就是创建Discoverer

「Prometheus服务发现核心就是三个协程之间协作:」

「协程1:」负责运行Discoverer接口Run方法,基于协议发现采集点;「协程2:」负责将协程1发现的采集点信息更新到Manager结构体中targets字段的map中;「协程3:」负责将Manager结构体中targets字段的数据通过通道发送给scrape模块;

scrape模块获取到采集点如何进行数据采集后续scrape模块分析。

监控指标

Prometheus服务发现通用指标主要有如下5个,都定义在discovery/manager.go中:

prometheus_sd_discovered_targetsprometheus_sd_failed_configsprometheus_sd_received_updates_totalprometheus_sd_updates_delayed_totalprometheus_sd_updates_total

「1、采集点数量指标」

服务发现主要基于协议发现采集目标,prometheus_sd_discovered_targets指标反馈各个job发现的采集目标数:

prometheus_sd_discovered_targets:gauge类型,当前发现的目标数config:job名称name:取值scrape和notify,区分指标抓取服务发现还是告警通知服务发现示例:prometheus_sd_discovered_targets{config="auth_es1", name="scrape"}  12

❝这里基于协议发现的目标数,还未进入采集模块,并不能区分是在线还是离线。❞

「2、服务发现协议异常错误指标」

服务发现会给每个发现配置项生成一个provider,并为每个provider使用协程运行,如果基于配置项生成provider错误就可以通过prometheus_sd_failed_configs指标反馈:

prometheus_sd_failed_configs:gauge类型,当前无法加载的服务发现配置数配置数:一个job可能存在多个服务发现协议配置,对应配置项则是多个示例:prometheus_sd_failed_configs{name="scrape"}  10prometheus_sd_failed_configs{name="notify"} 5

一个job可能对应多个服务发现配置项,如下:这个job下配置了static_configsfile_sd_configs两个服务发现协议配置,则对应两个服务发现配置项,注册两个provider,每个provider在独立协程中运行:

scrape_configs:  # The job name is added as a label `job=` to any timeseries scraped from this config.  - job_name: "test"    static_configs:    - targets: ["localhost:9090"]    file_sd_configs:    - refresh_interval: 5m      files:      - targets/manual.*.json

「3、协程交互指标」

服务发现主要涉及3类协程:

Discoverer协程(多个):封装provider,基于协议发现采集点,这里可能会存在多个,一个provider对应一个Discoverer协程updater协程(1个):Discoverer协程发现采集点,通过channel通道通知到updater协程updater协程将采集点更新到Manager结构体targets字段中,然后向Manager结构体triggerSend通道写入数据,告诉sender协程targets有更新;sender协程(1个):sender协程每5秒检测triggerSend通道数据,检测到更新则将Manager结构体targets数据处理封装写入到Manager结构体syncCh通道中,scrape模块监测该通道,即完成将服务发现模块scrape模块交互。

这其中涉及三个指标:

prometheus_sd_received_updates_totalprometheus_sd_updates_delayed_totalprometheus_sd_updates_total

关键词:

415只个股市值低于20亿元 散户投资者将被逐渐边缘化
数据显示,截至8月5日收盘,A股共有415只个股市值低于20亿元,占整体A股总数的近一成。业内专家认为,随着注册制的全面实施,小市值股的数
2022-08-29
湖南省人社厅公布7个热门职业的专项职业能力考核规范
怎样开展直播、进行直播复盘?母婴护理需要掌握哪些技巧……近日,湖南省人社厅公布电商直播销售、母婴护理等7个热门职业的专项职业能力考核
2022-06-20
唐山曹妃甸推动京津冀协同发展 产业协同转移全面提速
春暖渤海湾,书写新画卷。位于唐山曹妃甸的金隅天坛(唐山)木业科技有限公司的生产车间内一片繁忙景象——铺装、压机、翻板等工作正紧张有序
2022-03-19
石家庄海关共签发RCEP原产地证书864份 货值3.9亿元
自今年1月1日RCEP(《区域全面经济伙伴关系协定》)正式实施以来,截至3月14日,石家庄海关共签发RCEP原产地证书864份,货值3 9亿元。据介绍
2022-03-19
蚌埠海关累计签发RCEP原产地证书35份 涉及金额2583.09万元
在蚌埠海关报关大厅原产地证办理窗口,海关关员仔细核对着递交过来的材料。十分钟后,一份RCEP原产地证书打印盖章后交到了企业业务员手中。
2022-03-19
昆明西山区:“双招双引”推动人才链和产业链融合发展
为激励党员干部在营商环境建设中担当作为,昆明市西山区深入实施人才强区战略和人才领跑工程,建立健全招商引资和招才引资并轨新模式,以产
2022-03-19
世界最新:prometheus 服务发现原理
如上图,Prometheus核心功能包括服务发现、数据采集和数据存储。服务发现模块专门负责发现需要监控的目标采集点(target)信息,数据采集模块从
2023-03-23
全球今热点:清明祭扫上海哪些地方会拥堵?来看官方交通预测
2023年清明节假期为4月5日(星期三,正清明),共1天,节日期间高速公路实施7座以下小客车免费通行政策。清明节高速公路将实施7座以下小客车免
2023-03-23
今日热议:《寻味上海》丨0001号小作坊飘出的“焦毛香”
马桥香干的历史非常悠久,早在上世纪五十年代,马桥镇几乎村村都有豆腐加工场或是小作坊。到了上世纪八十年代中期,现代化的豆制品厂代替了粗
2023-03-23
全球实时:四十九日祭结局
1、结局:玉墨临走时把胶卷都还给孟书娟,让她好好保管,孟书娟谈起玉墨与戴涛的事情,玉墨表示当时所有人都认为他俩私定终身了,可国难当头哪
2023-03-23
每日热门:National Express West Midlands投资1.5亿英镑购买300辆电动巴士
NationalExpressWestMidlands投资1 5亿英镑购买300辆英国制造的零排放电动巴
2023-03-23
环球即时看!亳州:八年级生物、地理成绩这样纳入中考
近日,亳州市教育局发布通知,对我市八年级生物学、地理科目考试及中考招生录取工作作出安排。记者从市教育局了解到,从2021年秋季入学的初中
2023-03-23
沧州:8个重大科技专项项目确定 引领经济社会高质量发展
为充分发挥科技在经济社会高质量发展中的引领和支撑作用,沧州市确定8个项目为2021年全市重大科技专项项目。这8个重大科技专项项目分别为:
2022-03-19
  中新网海口1月23日电(王子谦 符宇群)海南省高级人民法院院长陈凤超23日说,2021年海南法院为自贸港建设提供坚强司法保障,全年有效管
2022-01-24
  新华社武汉1月23日电(记者王贤)随着春节假期临近,从广州、深圳等地返回湖北的旅客较多。为此,23日,武汉站、汉口站、襄阳东站、十堰
2022-01-24
  1月22日0—24时,广东省新增本土确诊病例3例和本土无症状感染者1例,均为珠海报告。23日,珠海市疫情防控新闻发布会上,珠海市政府副秘
2022-01-24
青海海西州德令哈市发生3.7级地震
  据中国地震台网正式测定,1月23日11时58分在青海海西州德令哈市发生3 7级地震,震源深度9千米,震中位于北纬38 40度,东经97 35度。
2022-01-24
  北京2022年冬奥会和冬残奥会颁奖花束已于近期完成交付。与传统的鲜切花不同,这些花束全部采用上海市非物质文化遗产“海派绒线编结技艺
2022-01-24
  中新网宿迁1月23日电 (刘林 张华东)核酸检测是当下及时发现潜在感染者、阻断疫情传播的有效方法。23日,记者从宿迁市宿豫区警方获悉
2022-01-24
  记者从天津市人社局获悉,从明天(24日)起,天津2022年度第一期积分落户申报工作正式开始,这是新修订的《天津市居住证管理办法》《天津
2022-01-24
  中新社北京1月23日电 (记者 刘亮)记者23日从中国海关总署获悉,2021年,中国海关组织开展“国门绿盾”专项行动,在寄递、旅客携带物
2022-01-24
  记者从天津市疫情防控指挥部获悉,天津疫情第341—360例阳性感染者基本信息公布。  目前,这20例阳性感染者已转运至市定点医院做进一
2022-01-24
“最美基层民警”武文斌:案子破了最管用
  中新网吕梁1月23日电 题:“最美基层民警”武文斌:案子破了最管用  作者 高瑞峰  同事称他为“拼命三郎”。从警14年,武文斌破
2022-01-24
  据“西安发布”消息,截至2022年1月23日,雁塔区长延堡街道近14天内无新增本地病例和聚集性疫情。根据国务院联防联控机制关于分区分级
2022-01-24
  中新网西宁1月23日电 (记者 孙睿)据青海省地震台网测定,2022年1月23日10点21分(北京时间)在青海省海西州德令哈市(北纬38 44度,东经
2022-01-24
江西南昌:市民赏年画迎新年 书法家挥毫送春联
  (新春见闻)江西南昌:市民赏年画迎新年 书法家挥毫送春联  1月23日,“赏年画过大年”新年画作品联展江西南昌站活动在江西省文化馆
2022-01-24
  中新网成都1月23日电 (祝欢)成都市第十七届人民代表大会第六次会议23日在成都举行,成都市中级人民法院院长郭彦与成都市人民检察院检
2022-01-24
列车临时停车3分钟救旅客
  (新春见闻)列车临时停车3分钟救旅客  中新网广州1月23日电 (郭军 黄伟伟)“车长,车长,4号车厢有位旅客腹涨难忍,身体不舒服”…
2022-01-24
女子背负命案潜逃24年 因涉疫人员核查落网
  中新网湖州1月23日电(施紫楠 徐盛煜 赵学良)1998年7月,犯罪嫌疑人杜某因家庭琐事,用菜刀将自己的弟媳砍伤致死。案发后,她从老家河
2022-01-24
广东“00后”雄狮少年锤炼功夫迎新春
  (新春见闻)广东“00后”雄狮少年锤炼功夫迎新春  中新社广州1月23日电 题:广东“00后”雄狮少年锤炼功夫迎新春  作者 孙秋霞 
2022-01-24
03-19 2022岳阳国际旅游节开幕 特色农产品展销等系列活动目不暇接
2022岳阳国际旅游节开幕 特色农产品展销等系列活动目不暇接
今天,天下洞庭岳阳市君山区第九届良心堡油菜花节暨2022岳阳国际旅游节开幕,菊红、粉红、水红、桃红、紫色、白色等七色组成的4万亩花海在 [详细]
03-19 2022年郴州计划重点推进文旅项目101个 总投资354亿元
2022年郴州计划重点推进文旅项目101个 总投资354亿元
3月16日,我市举行全市文旅项目和城市大提质大融城项目集中开工仪式,市委书记吴巨培宣布项目开工。郴州嘉合欢乐世界、仙福路工地清风徐来 [详细]
03-19 宿州泗县深入推进文旅融合发展 擦亮城市品牌
宿州泗县深入推进文旅融合发展 擦亮城市品牌
近年来,泗县以争创安徽省文化旅游名县为目标,深入推进文旅融合发展,努力擦亮水韵泗州 运河名城城市品牌,全县文化旅游业实现高质量发展 [详细]
03-19 淡季不忘引流 京郊民宿市场有望迎来回暖
淡季不忘引流 京郊民宿市场有望迎来回暖
旅游淡季中的京郊民宿有望成为市场中最先复苏的板块。3月17日,北京商报记者调查发现,虽然正值旅游淡季,且受疫情变化的影响,不过各家民 [详细]
01-24 西安浐灞回应“社区领导怒怼咨询群众”:涉事社区主任已停职
西安浐灞回应“社区领导怒怼咨询群众”:涉事社区主任已停职
  西安浐灞回应“一社区领导在市民咨询离市政策时发生争执”事件 涉事社区主任已停职  西部网讯(记者 刘望)日前,网络上流传一条视频 [详细]
01-24 宁夏:“草根主播”把货卖 “线上赶集”年味浓
宁夏:“草根主播”把货卖 “线上赶集”年味浓
  (新春走基层)宁夏:“草根主播”把货卖 “线上赶集”年味浓  中新网宁夏红寺堡1月23日电 题:宁夏:“草根主播”把货卖 “线上赶 [详细]
01-24 西安:整区解封前24小时内进行不漏一人的全员核酸检测
西安:整区解封前24小时内进行不漏一人的全员核酸检测
  1月23日15时,陕西省政府新闻办公室举行陕西省新冠肺炎疫情防控工作第四十五场新闻发布会。陕西省卫生健康委员会党组成员、省中医药管 [详细]