openllmetry-js

给 LLM 应用装上监控,自动追踪调用、成本与性能

OpenLLMetry-js 是 OpenLLMetry 的 TypeScript 姊妹项目,基于 OpenTelemetry 为 LLM 应用提供开源可观测性。它通过自动埋点的方式,帮助开发者追踪 LLM 调用的完整生命周期,包括提示词、响应、Token 消耗、延迟和错误等关键指标。项目解决了 LLM 应用调试困难、成本不可控、性能瓶颈难定位的问题,让开发者能像监控传统服务一样监控 AI 应用。核心能力包括:自动集成主流 LLM 提供商(如 OpenAI、Anthropic)、与 OpenTelemetry 生态无缝对接、支持导出到多种后端(如 Jaeger、Prometheus、Axiom 等),并提供开箱即用的仪表盘模板。作为早期项目,它专注于轻量级和易用性,适合希望快速建立 LLM 应用监控体系的团队。

开源 free 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 412
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类基础设施
开发团队traceloop
所属国家
定价模式free
价格说明开源项目,基于OpenTelemetry的LLM应用可观测性工具,完全免费,需自行部署。
访问状态
是否开源是
开源协议Apache-2.0
主要语言TypeScript
技术栈/模型datascience,generative-ai,javascript,llmops,metrics,ml,model-monitoring,monitoring,nextjs,observability,open-source,opentelemetry,opentelemetry-javascript,typescript
GitHub 星标★ 412
30天Star增速
HF 下载量
上线时间2023-09-27 00:00:00
最近更新2026-09-18 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数6

使用教程

核心亮点

  • 基于 OpenTelemetry 标准,可无缝对接现有监控基础设施,避免厂商锁定
  • 自动埋点主流 LLM 提供商,无需侵入式代码即可追踪调用链路
  • 提供 Token 消耗和延迟追踪,帮助定位成本与性能瓶颈

不足之处

  • 项目早期,文档和社区支持尚不完善
  • 支持的 LLM 提供商范围有限,可能不覆盖所有小众模型

适用场景

  • LLM 应用开发调试,快速定位提示词或模型响应异常
  • 生产环境监控,追踪 API 调用成本与延迟,优化资源分配
  • 构建统一的可观测性平台,将 LLM 调用与传统服务日志集成

替代项目

OpenLLMetry (Python)、Langfuse、Helicone

项目介绍

openllmetry-js 是基础设施领域的开源项目,由 traceloop 开发,2023 年首次发布。

它收录于基础设施分类,该分类目前共有 1,132 个项目,GitHub 星标数为 412。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-18。基于OpenTelemetry的LLM应用可观测性工具,完全免费,需自行部署。

它主要面向的使用场景是:LLM应用开发调试,快速定位提示词或模型响应异常。同类可对比的替代方案包括 OpenLLMetry (Python)、Langfuse、Helicone。

上一篇:azure-enterprise-scale-ml

下一篇:aisix-archived

同类项目推荐

freebuff-proxy 开源

聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。

Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···

★ 213 2026-08-20
microduck 开源

用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。

A Tiny biped duck robot

★ 8684 2026-09-10
soperator 开源

用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。

Run Slurm in Kubernetes

★ 439 2026-08-10
ollama 开源

一条命令本地跑起大模型,免费、私密、不卡顿

Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···

★ 181484 2026-08-09