项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-11-02 · 当前星标 ★ 345
核心亮点
- 基于 OpenTelemetry 标准输出遥测数据，可直接对接现有可观测性后端，不锁定厂商
- 覆盖提示词、模型调用、工具执行到多智能体协作的完整链路追踪，粒度细
- Python 原生实现，接入方式轻量，适合快速为已有 GenAI 应用补上可观测能力
不足之处
- 项目处于早期阶段，星标数较少，生态集成与生产案例积累有限
- 目前仅提供 Python 实现，其他语言栈的团队无法直接使用
适用场景
- 为基于 LLM 的智能体应用排查多步推理中的失败环节
- 在生产环境监控模型调用延迟、token 消耗与错误率
- 为多智能体协作系统建立端到端调用链追踪与审计记录
替代项目
Langfuse、Phoenix、OpenLLMetry
同类项目推荐
helicone
开源
一行代码接入，实时监控和评估你的 LLM 应用
Open source LLM observability platform. One line of code to monitor, evaluate, and e···
sndr_core_engine
开源
消费级显卡上榨干大模型性能，推理速度翻倍
SNDR Core Engine (Genesis) — vLLM runtime patch-overlay for Qwen3.6 + Gemma4 on con···
aio2024-mlops
开源
跟着Notebook动手玩转MLOps全流程工具链
This project serves as a hands-on introduction to essential MLOps tools
local-studio
开源
一个面板管住本地所有大模型推理引擎
Control panel for VLLM, Sglang, llama.cpp, exllamav3
ramalama
开源
像拉容器镜像一样拉取并运行AI模型，本地推理一键搞定。
RamaLama is an open-source developer tool that simplifies the local serving of AI mo···
cognitive-workspace
开源
让 LLM 拥有无限上下文，长任务不再失忆
Active memory management system enabling functional infinite context for LLMs throug···
local-llms-on-android
开源
把大模型装进口袋，离线也能智能对话
Run local LLMs like Gemma, Qwen, and LLaMA on Android for offline, private, real-tim···
router
开源
给 vLLM 集群做请求分发，Rust 写的轻量路由
A high-performance and light-weight router for vLLM large scale deployment
llm-d
开源
在 Kubernetes 上榨干 GPU，让 LLM 推理飞起来
State of the art inference performance with modern accelerators on Kubernetes