Prometheus学习系列(二)之Prometheus first steps

机器学习模型生产部署:从Notebook到高可用服务的落地实践 机器学习模型部署不是简单启动API,而是构建具备可观测性、契约保障与渐进交付能力的生产级服务。其核心在于应对数据漂移、特征不一致、冷启动延迟等真实场景挑战,技术价值体现在稳定性提升、故障定位加速与跨团队协作提效。典型应用场景包括推荐系统、风控引擎、智能客服等需低延迟、高可靠推理的业务系统。本文聚焦FastAPI+Prometheus+Argo Rollouts轻量组合,深入解析模型服务化中的健康检查、输入校验、指标埋点与金丝雀发布等关键工程实践。 阅读详情

欢迎来到Prometheus!Prometheus是一个监控平台,通过在监控目标上的HTTP端点来收集受监控目标的指标。本指南将向您展示如何使用Prometheus安装,配置和监控我们的第一个资源。 您将下载,安装并运行Prometheus。您还将下载并安装exporter,这些工具可在主机和服务上公开时间序列数据。我们的第一个exporter将是Prometheus本身,它提供了有关内存使用,垃圾收集等的各种主机级指标。

下载Prometheus

根据你的平台https://prometheus.io/download/,然后解压它:

tar xvfz prometheus-*.tar.gz
cd prometheus-*

Prometheus服务器是一个名为prometheus的二进制文件(或Microsoft Windows上的prometheus.exe)。 我们可以通过传递--help标志来运行二进制文件并查看其选项的帮助。

./prometheus --help
usage: prometheus [<flags>]

The Prometheus monitoring server
. . .

在使用欢迎来到Prometheus之前,让我们配置它。

配置Prometheus

Prometheus配置是YAML。Prometheus下载附带一个名为prometheus.yml的文件中的示例配置,这是一个很好的入门之处。

我们删除了示例文件中的大部分注释,使其更简洁(注释是以#为前缀的行)。

global:
  scrape_interval:     15s
  evaluation_interval: 15s

rule_files:
  # - "first.rules"
  # - "second.rules"

scrape_configs:
  - job_name: prometheus
    static_configs:
      - targets: ['localhost:9090']

示例配置文件中有三个配置块:global,rule_files和scrape_configs。

全局块控制Prometheus服务器的全局配置。 我们有两种选择。 第一个是scrape_interval,它控制Prometheus抓取目标的频率。 您可以为单个目标重写此值。 在这种例子下,全局设置是每15s抓取一次。 evaluation_interval选项控制Prometheus评估规则的频率。 Prometheus使用规则创建新的时间序列并生成警报。

rule_files块指定我们希望Prometheus服务器加载的任何规则的位置。 现在我们没有规则。

最后一个块scrape_configs控制Prometheus监视的资源。 由于Prometheus还将自己的数据公开为HTTP端点,因此它可以抓取并监控自身的健康状况。 在默认配置中,有一个名为prometheus的作业,它会抓取Prometheus服务器公开的时间序列数据。 该作业包含一个静态配置的目标,即端口9090上的localhost。Prometheus希望指标在/metrics路径上的目标上可用。 所以这个默认的工作是通过URL抓取:http//localhost:9090/metrics。

返回的时间序列数据将详细说明Prometheus服务器的状态和性能。

有关配置选项的完整规范,请参阅配置文档。

启动Prometheus

要使用我们新创建的配置文件启动Prometheus,请切换到包含Prometheus二进制文件的目录并运行:

./prometheus --config.file=prometheus.yml

prometheus应该启动。您还应该能够在http//localhost:9090浏览到自己的状态页面。给它大约30秒的时间从自己的HTTP指标端点收集有关自己的数据。

您还可以通过导航到其自己的指标端点来验证Prometheus是否正在提供有关自身的指标:http//localhost:9090/metrics。

使用表达式浏览器

让我们试着看一下Prometheus收集的关于自己的一些数据。 要使用Prometheus的内置表达式浏览器,请导航到http//localhost:9090/graph并在“Graph”选项卡中选择“Console”视图。

正如您可以从http//localhost:9090/metrics收集的那样,Prometheus导出的一个度量标准称为promhttp_metric_handler_requests_total(Prometheus服务器已服务的/ metrics请求的总数)。 继续并将其输入表达式控制台:

promhttp_metric_handler_requests_total

这应该返回许多不同的时间序列(以及为每个记录的最新值),所有时间序列都使用度量标准名称promhttp_metric_handler_requests_total,但具有不同的标签。 这些标签指定不同的请求状态。

如果我们只对导致HTTP代码200的请求感兴趣,我们可以使用此查询来检索该信息:

promhttp_metric_handler_requests_total{code="200"}

要计算返回的时间序列总数,您可以写:

count(promhttp_metric_handler_requests_total)

有关表达式语言的更多信息,请参阅表达式语言文档。

适用图表接口

要绘制表达式图表,请导航到http//localhost:9090/graph graph并使用“图表”选项卡。

例如,输入以下表达式来绘制在自我抓取的Prometheus中发生的返回状态代码200的每秒HTTP请求率:

rate(promhttp_metric_handler_requests_total{code="200"}[1m])

您可以尝试图形范围参数和其他设置。

监控其他目标

仅从Prometheus那里收集指标并不能很好地反映Prometheus的能力。 为了更好地了解Prometheus可以做什么,我们建议您浏览有关其他exporter的文档。 使用node exporter指南监控Linux或macOS主机指标是一个很好的起点。

总结

在本指南中,您安装了Prometheus,配置了Prometheus实例来监视资源,并学习了在Prometheus表达式浏览器中处理时间序列数据的一些基础知识。 要继续了解Prometheus,请查看概述,了解接下来要探索的内容。

链接

Prometheus官网地址:https://prometheus.io/
我的Github:https://github.com/Alrights/prometheus

从Notebook到生产:机器学习模型服务化落地全链路 机器学习模型服务化(Model Serving)是将训练好的模型稳定、低延迟、可观测地部署到生产环境的关键环节,其核心在于解决隔离性、状态管理、可观测性与持续交付等工程挑战。基于MLOps实践,它融合了容器化、特征存储、动态批处理、灰度发布与OpenTelemetry追踪等关键技术,显著提升模型推理稳定性与运维效率。在推荐、风控、搜索等实时AI场景中,Model Serving直接决定业务指标如CTR、转化率与响应SLA的达成。本文聚焦从Jupyter Notebook原型到Kubernetes集群上线的七 阅读详情

相关推荐

机器学习生产交付:从Notebook到稳定服务的工程化实践

机器学习模型部署不是简单的代码上线,而是涉及计算逻辑、服务封装、可观测性与安全合规的系统工程。其核心原理在于解耦关注点——将模型推理(计算层)、API通信(服务层)和集群编排(编排层)分离,通过Schema校验、性能基线、指标暴露与漏洞扫描四步验证保障质量。技术价值体现在可监控、可回滚、可扩缩的生产就绪能力,支撑金融风控、电商推荐、医疗影像等高可靠性场景。本文聚焦ML in the Real World中的关键落地环节,涵盖Pydantic输入校验、FastAPI服务封装、Kubernetes声明式部署及T

weixin_33726318的博客 457

Prometheus监控实战系列五:PromQL语法(上)

PromQL是Prometheus内置的数据查询语言,其提供对时间序列丰富的查询功能,聚合以及逻辑运算能力的支持。当前,PromQL被广泛应用在Prometheus的日常使用中,包括数据查询、可视化、告警处理等,可以说,掌握PromQL是熟练使用prometheus的必备条件。

青梅煮酒 1993

学生服务器实战指南:从吃灰到高效利用的完整项目部署方案

云服务器作为现代软件开发和运维的核心基础设施,其核心价值在于提供了一个可弹性伸缩、完全可控的远程计算环境。其工作原理是通过虚拟化技术,在物理服务器上划分出独立的虚拟资源单元,用户可通过网络远程访问和管理。对于开发者而言,一台个人服务器不仅是学习Linux系统、网络协议和中间件部署的理想沙盒,更是实践DevOps理念、构建自动化工作流的关键平台。通过容器化技术(如Docker)和编排工具,可以高效部署博客系统、监控面板、自托管应用等多样化项目,将服务器从闲置成本转化为驱动技术成长的核心资产。本文聚焦于学生服务

weixin_33824363的博客 481

Prometheus01-Prometheus的所有指标参数及其解释

【代码】Prometheus01-Prometheus的所有指标参数及其解释。

weixin_44242433的博客 1359

DOKS入门指南:Kubernetes新手快速上手云原生实战

Kubernetes作为云原生的核心编排引擎,其学习门槛常被复杂的集群搭建和运维细节所抬高。托管Kubernetes服务(如DOKS)通过剥离控制平面运维负担,让开发者聚焦于YAML定义、服务暴露与可观测性等真实交付环节。它基于标准Kubernetes API,完全兼容kubectl、Helm与CI/CD工具链,同时提供开箱即用的LoadBalancer、Cilium网络、Block Storage及自动TLS等工程友好特性。对于后端工程师、创业CTO和DevOps新人而言,DOKS不是简化版Kuberne

csdn785029689的博客 510

DSPy:面向LLM应用的可学习、可验证、可部署的机器学习范式

大语言模型(LLM)应用开发正从‘提示工程’迈向‘机器学习工程化’阶段。传统手写prompt本质是静态超参数配置,缺乏可学习性、可复现性和跨模型泛化能力;而DSPy通过Signature(接口契约)、Module(可组合模块)和Teleprompter(自动编译引擎)三层抽象,将prompt重构为可参数化、可梯度近似、可版本管理的可学习组件。其技术价值在于支撑高可靠LLM系统落地——如合同审查、法律条款比对等需稳定F1≥0.88的生产场景,并天然适配MLOps流程。本文聚焦DSPy如何以机器学习工作流思维,

405

业务/应用监控以及告警实现

Java应用监控 告警实现

寂夜了无痕的博客 3819

LLM工程师作品集构建指南:3个月打造可验证的职业信用体系

大模型工程能力无法仅靠理论或框架调用证明,真正被企业认可的是在真实约束下解决问题的全过程证据。LLM工程师作品集本质是技术决策链的时空切片,需覆盖可信数据管道构建、可控模型行为塑造、生产环境稳定性保障三大能力原子。它强调问题现场记录、具体干预动作与量化结果对比的三位一体结构,依托FAISS向量库选型、QLoRA微调实操、vLLM部署监控等硬核实操,实现从学习者到工程交付者的身份跃迁。本文聚焦如何通过12周结构化实践,将个人项目转化为具备审计性、可迁移性与业务解释力的职业信用凭证。

weixin_30896825的博客 309

PromQL内置函数

PromQL内置函数 在上一小节中,我们已经看到了类似于irate()这样的函数,可以帮助我们计算监控指标的增长率。除了irate以外,Prometheus还提供了其它大量的内置函数,可以对时序数据进行丰富的处理。本小节将带来读者了解一些常用的内置函数以及相关的使用场景和用法。 计算C...

2034

大模型实战路线图:从零基础到本地部署与生产监控

大模型技术已从理论研究迈入工程落地深水区,核心挑战不再是理解Transformer结构,而是如何在真实硬件约束(如16GB显存、Docker权限、Excel插件集成)下完成数据清洗、QLoRA微调、vLLM推理部署及Prometheus监控闭环。Flash Attention-3和PagedAttention已成为2026年主流推理框架的基础设施标配,而unstructured.io与vLLM的协同使用正重新定义AI应用的数据—模型—服务链路效率。本文聚焦可复现的工程路径,覆盖PDF智能解析、4-bit量化

weixin_34345753的博客 358

Tomcat漏洞——弱口令爆破

靶机:CentOS7 IP:192.168.100.40。攻击机:kali IP:192.168.100.60。版 权 声 明:本博客所有文章除特别声明外,均采用。文章版权归作者所有,未经允许请勿转载!作 者:PeiyuJue。

weixin_57379923的博客 899

【Mac】mac 安装 prometheus 报错 prometheus: prometheus: cannot execute binary file

这里下载的是。

长江七号的博客 1451

深入了解BPM及BPM业务流程管理系统

BPM 即业务流程管理,是一种以规范化的构造端到端的卓越业务流程为中心,以持续地提高组织业务绩效为目的的系统化方法。它涵盖了业务流程的整个生命周期,包括流程的设计、执行、监控、分析和优化。BPM 作为一种先进的管理方法,对于企业提高运营效率、降低成本、提升客户满意度和增强竞争力具有重要意义。BPM 流程管理系统为企业实现 BPM 提供了强大的工具和支持,而 F2BPM 流程管理平台以其先进的技术架构、丰富的功能模块、简单易用的操作界面和强大的定制能力,成为企业实现业务流程管理的理想选择。

Stone3625的博客 2941

生产级机器学习部署:从Notebook到高可用API的工程实践

机器学习模型部署不是简单的代码上线,而是涉及资源约束、高并发服务、数据漂移监控和版本可追溯性的系统工程。其核心在于将实验室中的算法逻辑转化为符合SLO、具备可观测性、满足审计要求的生产服务。关键技术包括Docker镜像优化、FastAPI生产配置、Prometheus分层指标埋点、模型热重载与MLflow模型注册管理。真实世界部署(ML in the Real World)强调CPU配额限制、P99延迟控制、数据契约校验与灰度发布流程——这些正是数据科学家与MLOps工程师协同落地的关键战场。

weixin_30566111的博客 363

拆解人形机器人:核心硬件与驱动系统

本文深入解析人形机器人的核心硬件系统,将其类比为"骨骼+肌肉+神经"的集成体。重点介绍了三大关键组件:驱动单元(无框力矩电机和空心杯电机)、传动单元(谐波减速器和行星滚柱丝杠)以及感知单元(力矩传感器、编码器和IMU)。文章指出一体化关节模组正成为行业趋势,能够实现更紧凑的结构和更高的可靠性。同时分析了硬件价值量分布,强调丝杠、电机等部件是当前技术高地和成本重心。最后指出随着技术进步,机器人价值将更多向"大脑"和"神经"转移。

小明的博客 1514

慕课软件质量保证与测试(习题集)

慕课金陵科技学院.软件质量保证与测试.期末复习.习题汇总0 总目录1 绪论1.1 软件质量保证与测试的产生与发展1.2 软件缺陷,软件错误,软件故障1.3 软件质量保证与测试的意义,原则和挑战1.4 单元测试1.5 课后作业2 软件测试策略2.1 软件测试的模型,过程和生命周期2.2 软件测试的方法和技术2.3 单元测试2.4 课后作业3 黑盒测试3.1 黑盒测试概述3.2 等价类划分测试3.3 边界值测试3.4 错误推测法3.5 判定表驱动法3.6 因果图法3.7 场景法3.8 正交实验法3.9 单元测试

weixin_42473228的博客 5万+

机器学习模型服务化:从Jupyter到K8s生产部署实战

机器学习模型服务化是将训练完成的模型转化为稳定、可观测、可扩展API的关键过程,其核心在于 bridging the gap between ML development and software engineering。它涉及模型序列化(如joblib/ONNX)、高性能推理框架(如FastAPI)、容器化封装(Docker)与声明式编排(Kubernetes)。技术价值体现在保障低延迟预测、高可用性、自动扩缩容及快速回滚能力。典型应用场景包括实时风控、个性化推荐和智能客服等在线推理服务。本文聚焦生产级部

weixin_30522095的博客 514

为Ollama本地大模型添加持久化记忆层:openclaw-ollama-memory项目详解

在构建基于大型语言模型(LLM)的对话应用时,上下文管理是核心技术挑战之一。其原理在于模型本身不具备跨会话的持久化记忆能力,每次请求都是独立的。这导致在多轮对话中,模型无法有效利用历史信息,用户体验割裂。从技术价值看,独立的记忆层通过解耦推理与存储,能突破模型固定上下文窗口的限制,实现更智能、连贯的交互。其核心应用场景包括聊天机器人、智能助手及需要长期记忆的复杂代理。本文聚焦的 openclaw-ollama-memory 项目,正是为 Ollama 生态提供的记忆层解决方案,它通过向量检索和智能摘要等机制

weixin_42521558的博客 308

从零搭建昇腾开发标准化模板,CANN/.gitcode 让你一步到位

做昇腾 AI 开发的人都遇到过这种场景:仓库里 Issue 和 PR 攒了不少,信息却零零碎碎。CANN/.gitcode 是一套面向昇腾开发场景的标准化模板工具——7 个 Issue 模板、双语 PR 模板外加一套可复用 CI Actions,让你的仓库从提交那一刻起就有章可循,一步到位对齐 CANN 的协作规范。 ## 没有统一模板的仓库,协作成本有多高 先说说那些让人头疼的日常,看看你中

gitblog_00951的博客 676

基于Dijkstra算法的共享单车调度优化系统设计与实现

根据最新统计数据,全球共享单车市场规模已超过300亿美元,中国作为最大的共享单车市场,日订单量超过5000万次。Dijkstra算法由荷兰计算机科学家Edsger W. Dijkstra于1956年提出,用于解决带权有向图中的单源最短路径问题。本文详细介绍了基于Dijkstra算法的共享单车调度优化系统的设计与实现。本文将详细介绍基于Dijkstra算法的共享单车调度优化系统的设计与实现,采用Java 17、Spring Boot 3.x等最新技术栈。

2201_76125393的博客 613

萤石云cs刷机解绑固件

萤石CS-C2C-32WFR刷机包,萤石CS-C6TC刷机包,萤石CS-C6H刷机包,萤石猫眼产品等等。萤石云摄像头固件修改,绑定手机号解绑,更换序列号教程。

海康威视技术支持 2万+

独立开发者高效工作流:五大核心原语构建自动化系统

在软件工程领域,自动化与系统化思维是提升开发效率的关键。其核心原理在于通过标准化、脚本化的工作流程,将重复性任务交由机器处理,从而释放开发者精力聚焦于创造性工作。从技术价值看,这不仅减少了人为错误,更实现了流程的可重现与可版本控制,为持续交付奠定基础。在应用场景上,尤其适合资源有限的独立开发者或小微团队,通过基础设施即代码、CI/CD流水线、纯文本知识库等实践,构建从开发到运维的完整自动化体系。本文以Terraform、GitHub Actions等工具为例,深入探讨如何设计单向自动化工作流与API优先的集

weixin_34354945的博客 436

【深度学习新浪潮】深度学习特别是大模型在图像配准方面的研发进展

深度学习,尤其是大模型的出现,彻底改变了图像配准的技术范式——从“手工设计特征+几何约束”走向“数据驱动+通用特征学习”。当前,大模型配准已在医学影像、遥感、工业检测等领域实现商业化落地,解决了传统方法难以应对的跨模态、少样本、复杂形变等问题。但大模型配准仍面临推理效率、可解释性、数据隐私等挑战,未来的研发核心将是“精度与效率的平衡”“泛化能力的提升”“场景化适配的简化”。对于开发者而言,从简化版大模型配准代码入手,逐步理解预训练+微调的核心逻辑,是衔接前沿技术的有效路径。

专注:太空算力、AI infra、异构调度、大模型成本工程 419

机器学习落地实战:从Notebook到高可用生产系统的七步通关

机器学习模型部署不是简单封装API,而是涵盖数据一致性、环境可靠性、服务SLA保障、特征管理、版本追溯、多层监控与安全合规的系统工程。其核心挑战在于解决线上线下特征不一致、模型效果衰减、预测延迟不可控、回滚不可逆等真实问题。关键技术包括特征存储(Feature Store)统一计算逻辑、三位一体模型版本绑定(模型+数据+代码)、覆盖数据-模型-业务的黄金指标监控体系,以及基于金丝雀发布与自动Diff比对的渐进式上线机制。本文聚焦ML工程化落地中的六大硬约束与七步标准化流程,为算法、后端与数据团队提供可复用的

weixin_34393428的博客 467

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

从Notebook到生产环境的ML模型可观测性与稳定性实战

机器学习模型上线并非简单部署,而是跨越开发与生产、静态模型与动态业务、技术指标与真实效果的关键跃迁。其核心挑战在于构建可观测性(Observability)、可恢复性(Recoverability)和可演进性(Evolvability)三位一体的闭环能力。本文聚焦‘Notebook to Production’落地中最易被忽视的Part 4阶段——模型在真实流量下的持续健康运行,深入解析特征漂移检测、四维版本绑定、原子化回滚、语义化指标监控等硬核实践,覆盖金融风控、电商推荐、工业预测等典型场景,为算法工程师

turnRound 440

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

上一篇: Prometheus学习系列(一)之Prometheus简介
下一篇: Prometheus学习系列(三)之监控对比
飞雪K
博客等级 码龄12年 50粉丝 18原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值