项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 104
核心亮点
- 非侵入式监控，无需修改 SDK 或应用代码，部署成本低
- 基于网络包探测，可覆盖多种 LLM 服务与智能体框架
- Rust 实现，性能开销小，适合高吞吐生产环境
不足之处
- 文档/社区待观察
- 早期项目，功能完整性和稳定性有待验证
适用场景
- 生产环境 LLM API 性能监控与告警
- 智能体框架（如 Claude、Codex）的调用链路分析
- 服务提供方对多租户 API 使用情况的量化评估
替代项目
Langfuse、Helicone、Phoenix (Arize)
上一篇：oss-llmops-stack
同类项目推荐
ComfyUI-Windows-Portable
开源
解压即用的 ComfyUI 整合包，省去配置烦恼
ComfyUI standalone pack with 40+ custom nodes. | ComfyUI 大号整合包，预装大量自定义节···
gemini-business2api
开源
把 Gemini 商业版变成 OpenAI 接口，多账号负载均衡，还能生成图片视频。
OpenAI-compatible API for Gemini Business with multi-account load balancing and mult···
semantic-cache
开源
让缓存懂语义，相似查询秒命中，降低后端压力
A fuzzy key value store based on semantic similarity rather lexical equality.
ramalama
开源
像拉容器镜像一样拉取并运行AI模型，本地推理一键搞定。
RamaLama is an open-source developer tool that simplifies the local serving of AI mo···
gerbil
开源
桌面一键运行本地大模型和图像生成，保护隐私
A desktop app for running Large Language Models locally.
sndr_core_engine
开源
消费级显卡上榨干大模型性能，推理速度翻倍
SNDR Core Engine (Genesis) — vLLM runtime patch-overlay for Qwen3.6 + Gemma4 on con···
coze-loop
开源
一站式调试、评估、监控你的 AI Agent，让开发更高效
Next-generation AI Agent Optimization Platform: Cozeloop addresses challenges in AI ···
pai
开源
管好 GPU 集群，让 AI 训练快人一步
Resource scheduling and cluster management for AI
redb-open
开源
统一接入多数据库，实时迁移复制，为AI和大规模数据而生。
Distributed data mesh for real-time access, migration, and replication across divers···