项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 250
核心亮点
- 提供全链路追踪，清晰展示每次 LLM 调用的输入输出和延迟
- 内置评估和提示词管理，支持团队协作迭代
- 文档覆盖自托管和云服务两种模式，部署灵活
不足之处
- 项目处于早期阶段，部分功能可能不够稳定
- 文档/社区待观察
适用场景
- LLM 应用开发调试，快速定位 prompt 或模型响应问题
- 团队协作管理提示词版本和评估结果
- 生产环境监控 LLM 调用成本和性能指标
替代项目
LangSmith、Helicone、WandB
上一篇：llm7.io
下一篇：redis-vl-python
同类项目推荐
chitu
开源
让大模型推理更快更省，轻松部署高并发服务
High-performance inference framework for large language models, focusing on efficien···
Fooocus-API
开源
把 Fooocus 变成 API，一行代码接入图像生成
FastAPI powered API for Fooocus
Safe-and-Stable-Ckpt2Safetensors···
开源
一键安全转换 ckpt 为 safetensors，告别恶意代码风险
Convert your Stable Diffusion checkpoints quickly and easily.
dns-aid-core
开源
用 DNS 让 AI 智能体像网站一样被找到和验证
DNS-based Agent Identification and Discovery - Reference Implementation for IETF BAN···
stable-diffusion-webui-docker
开源
一条命令跑起 Stable Diffusion WebUI，告别环境配置地狱
Easy Docker setup for Stable Diffusion with user-friendly UI
picollm
开源
让大模型在手机和嵌入式设备上流畅跑起来
On-device LLM Inference Powered by X-Bit Quantization
llmtrace
开源
零代码给 OpenAI API 加安全盾，实时防注入、扫隐私、控成本
Zero-code LLM security & observability proxy. Real-time prompt injection detection, ···
website
开源
看官方文档，快速上手 KServe 模型部署
User documentation for KServe.
surprisal
开源
统一接口，一键计算任意语言模型的惊异度
A unified interface for computing surprisal (log probabilities) from language models···