一键接入，实时追踪 LLM 应用全链路，调试评估不再抓瞎。
Langtrace 是一个基于 OpenTelemetry 的开源端到端可观测性工具，专为 LLM 应用设计。它解决开发者在构建大模型应用时面临的调试难、评估难、监控难问题，通过自动埋点捕获从提示词输入到模型响应、向量数据库检索等全链路追踪数据。核心能力包括实时追踪 LLM 调用、支持主流 LLM（如 OpenAI、Anthropic）、LLM 框架（如 LangChain）及向量数据库，并提供评估指标（如延迟、成本、令牌数）和可视化面板。支持 TypeScript 和 Python 集成，开发者只需简单配置即可接入，无需修改核心业务代码。项目处于成长阶段，社区活跃，适合需要快速建立 LLM 应用可观测性的团队。
1安装 TypeScript SDK
在 Node/TypeScript 项目目录下执行安装，包名以 README 给出的为准，如报 404 请核对官方最新包名。
npm i @langtrase/typescript-sdk2安装 Python SDK
在 Python 项目所用虚拟环境中执行 pip 安装，避免污染全局环境。
pip install langtrace-python-sdk3在代码中引入 SDK
按 README 示例在业务代码入口初始化 SDK，README 节选中 TypeScript 示例不完整，建议对照官网补全 API Key 等初始化参数。
4（可选）自托管部署
README 提供 Self Hosting 选项，采用 Docker Compose 管理容器；节选中未给出启动命令，部署前请查看完整 README 与官方文档。
5停止并清理自托管环境
在存放 docker-compose 配置的目录执行，删除容器与数据卷；-v 会一并删除卷，数据不可恢复。
docker compose down -v安装命令无报错、代码中能成功 import 对应 SDK 即为接入成功；README 未给出具体的启动校验方法。
Q：TypeScript 包名到底是哪个？
A：README 中写作 @langtrase/typescript-sdk，疑似拼写问题；若 npm 安装失败，请以 Langtrace 官方文档公布的最新包名为准。
Q：如何删除自托管的容器和数据？
A：在 docker-compose 配置所在目录执行 docker compose down -v，-v 参数会同时删除数据卷，数据无法恢复，请提前备份。
Q：支持哪些 LLM 与框架？
A：README 说明支持 OpenAI、Anthropic 等主流 LLM，以及 LangChain 等 LLM 框架和向量数据库，基于 OpenTelemetry 标准实现追踪。
Q：必须自己部署服务端吗？
A：不是必须。README 同时提供 Self Hosting 自托管选项和官方云服务，可按数据合规要求二选一。
Langfuse、Helicone、Phoenix (Arize)
langtrace 是基础设施领域的开源项目，由 Scale3-Labs 开发，2024 年首次发布。
在全站 13,014 个收录项目中，它的 GitHub 星标数（1,232）位列前 30%，在基础设施分类中处于中上游。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-18。AGPL-3.0许可，可自行部署使用，无付费版本。
它主要面向的使用场景是：LLM应用开发调试，快速定位提示词或模型响应异常。同类可对比的替代方案包括 Langfuse、Helicone、Phoenix (Arize)。
freebuff-proxy
开源
聚合多账号，一键接入 OpenAI 兼容 API，轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭，快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm，简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型，免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···