一键接入，全栈监控你的 LLM 应用，从开发到生产。
OpenLIT 是一个面向 AI 工程的开源可观测性平台，基于 OpenTelemetry 原生标准，帮助开发者监控、评估和优化 LLM 应用。它解决 AI 应用在生产环境中缺乏统一监控、评估和安全管理的问题，核心能力包括：LLM 调用追踪、GPU 监控、安全防护（Guardrails）、评估（Evaluations）、提示词管理、提示词库（Vault）和 Playground。支持与 50 多种 LLM 提供商、向量数据库、Agent 框架和 GPU 集成，覆盖从开发到生产的全链路。通过统一仪表盘，团队可以实时查看成本、延迟、令牌使用量，并运行评估测试，确保 AI 应用质量。
⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。
1安装 Python SDK
Python 应用通过 pip 安装 openlit 包，README 给出的就是这一条命令。安装成功后再按官方文档完成初始化接入。
pip install openlit2安装 TypeScript SDK
TypeScript / Node.js 应用改用 npm 安装同名 openlit 包，二者按你的技术栈二选一或各自使用。
npm install openlit3获取官方示例
克隆 OpenLIT 仓库，README 指出其中 examples 目录提供集成示例，可对照自己的框架参考。
git clone https://github.com/openlit/openlit.git4查看快速开始文档
README 的 Quickstart 指向 docs.openlit.io，平台自身的部署、仪表盘接入与初始化参数都以该文档为准。
执行 pip install openlit 或 npm install openlit 时无报错、能正常导入该包即安装成功；平台侧是否连通需按官方文档确认。
Q：Python 和 TypeScript 两个 SDK 都要装吗？
A：不需要都装。README 提供两种语言的安装方式，按你的应用语言选择：Python 项目用 pip，Node/TypeScript 项目用 npm。
Q：只安装 SDK 就能看到监控仪表盘吗？
A：不一定。SDK 只是接入端，还需要按 docs.openlit.io 的 Quickstart 完成初始化与平台连接配置，才能上报并查看数据。
Q：自托管 OpenLIT 平台的部署方式在哪里看？
A：本次 README 节选未包含平台部署命令，请到官方文档 https://docs.openlit.io 查看最新部署方式，不要套用其他项目的命令。
Langfuse、Phoenix (Arize)、Helicone
openlit 是基础设施领域的开源项目，由 openlit 开发，2024 年首次发布。
在全站 13,014 个收录项目中，它的 GitHub 星标数（2,790）位列前 30%，在基础设施分类中处于中上游。
近 42 天，它的 GitHub 星标从 2,683 增加到 2,790，净增 107。
项目目前处于活跃维护状态，最近一次代码更新于 2026-09-23。Apache-2.0 许可证，可自行部署，无在线服务，完全免费。
它主要面向的使用场景是：生产环境LLM应用性能与成本监控。同类可对比的替代方案包括 Langfuse、Phoenix (Arize)、Helicone。
上一篇：byok-relay
下一篇：otari
freebuff-proxy
开源
聚合多账号，一键接入 OpenAI 兼容 API，轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭，快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm，简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型，免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···