openinference

给 AI 应用装上标准监控，一键追踪 LLM 调用全链路

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署基础设施 🍴 复刻 381 🐛 待处理 284 👀 关注 14

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 1313

维护状态活跃

是否开源开源

定价模式 🏷️完全免费开源项目，Apache-2.0 许可证，完全免费，可自行部署使用。

项目预览

openinference 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类基础设施

开发团队Arize-ai

官网地址https://arize-ai.github.io/openinference

GitHubhttps://github.com/Arize-ai/openinference

定价模式🏷️完全免费

价格说明开源项目，Apache-2.0 许可证，完全免费，可自行部署使用。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型aiops,gemini,hacktoberfest,haystack,langchain,langraph,llamaindex,llmops,llms,mcp,openai,openai-agents,opentelemetry,pydantic-ai,smolagents,telemetry,tracing,vercel,vertex

GitHub 星标★ 1313

上线时间2023-12-26 00:00:00

代码更新2026-11-10

仓库体积26.2 MB

本站数据更新2026-11-10

维护状态活跃

收录时间2026-08-09

浏览次数5

项目介绍

OpenInference 是一个面向 AI 应用的可观测性开源项目，基于 OpenTelemetry 标准构建。它解决的是 AI 应用（如 LLM 应用、Agent、RAG 系统）在生产环境中缺乏标准化监控和追踪的问题。核心能力包括：为 LLM 调用、向量数据库检索、Agent 决策等提供自动埋点；生成符合 OpenTelemetry 语义的追踪数据；支持与主流可观测性后端（如 Arize Phoenix、Langfuse 等）集成。通过 OpenInference，开发者可以统一收集 AI 应用的推理日志、性能指标和调用链路，从而快速定位问题、优化提示词和评估模型行为。项目提供 Python 和 TypeScript 库，支持多种框架（如 LangChain、LlamaIndex），并定义了 AI 特有的追踪语义规范。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1313

技术标签

aiops gemini hacktoberfest langchain llamaindex

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：进阶约 15 分钟部署方式：库/依赖 4 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

Python 环境（用于安装 Python 版埋点库）
一个兼容 OpenTelemetry 的可观测性后端（如 Arize Phoenix、Arize AX）
按需选择使用的机器学习 SDK/框架（如 LLM、RAG、Agent 相关框架）

安装与启动步骤

1克隆项目仓库

README 未提供安装命令，先获取源码以便查看规范与各语言埋点插件的说明文档。
```
git clone https://github.com/Arize-ai/openinference.git
```
2阅读 OpenInference 规范

规范以 markdown 文件形式放在仓库的 spec 目录中，先理解 LLM 调用、向量库检索、外部工具使用的追踪语义约定。
```
ls spec
```
3挑选对应框架埋点库

README 的 Instrumentation 章节按语言列出针对主流机器学习 SDK/框架的埋点插件，Python 部分以包列表形式给出，请按你使用的框架选择。
4接入可观测性后端

OpenInference 生成的追踪遵循 OpenTelemetry，可对接 Arize Phoenix、Arize AX，或任意兼容 OpenTelemetry 的后端。