项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 810
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- Docker
- 一个使用 OpenAI 兼容接口的应用
安装与启动步骤
-
1装 CLI
Agent 运行时的实时观测工具,支持 brew 与二进制。
brew install vllora -
2起本地服务
也可以直接 clone 后用 compose 起。
git clone https://github.com/vllora/vllora.git cd vllora && docker compose up -d -
3接你的框架
把 LangChain 或 OpenAI SDK 的 base_url 指过来即可。
export OPENAI_BASE_URL=http://localhost:8787/v1 -
4看调用链
在面板里看每一跳的耗时与 token 消耗。
vllora ui
如何确认成功
面板里出现应用发出的请求记录,含耗时与输入输出。
注意事项
- 它是旁路观测,不改业务代码,只要改 base_url。
- 生产环境接入要注意日志里别落敏感 prompt。
核心亮点
- 提供可视化界面,实时展示代理决策和工具调用,降低调试门槛
- 支持逐步执行和断点设置,便于定位复杂逻辑问题
- 基于 Rust 实现,性能开销低,适合高频调试场景
不足之处
- 早期项目,功能覆盖有限,可能不支持所有主流代理框架
- 文档和社区生态尚在建设中,上手资料较少
适用场景
- 开发复杂 AI 代理时,排查决策逻辑错误
- 对比不同提示词或参数对代理行为的影响
- 教学演示,展示 AI 代理内部工作原理
替代项目
Langfuse、LangSmith、AgentOps
下一篇:reverse-check
同类项目推荐
fractalic
开源
用 Markdown 和 YAML 像写文档一样搭建 AI 工作流,Git 版本控制轻松管理。
Fractalic: Build and version-control AI systems using Markdown & YAML. Combine LLM c···
swiftide
开源
用 Rust 快速构建流式 LLM 应用,索引查询一把梭
Fast, streaming indexing, query, and agentic LLM applications in Rust
scallop
开源
让神经网络学会逻辑推理,构建可解释的 AI 系统
Framework and Language for Neurosymbolic Programming.
epsiclaw
开源
515行Python实现极简智能体,秒懂秒改
The Karpathy treatment for OpenClaw - stripped to ε. 515 lines of Python, 6 files, ···
simplemind
开源
轻量 Python 客户端,统一调用多家大模型 API
Python API client for AI providers that intends to replace LangChain and LangGraph f···
GraphRag.Net
开源
在 .NET 中一键集成 GraphRAG,让知识库问答更懂关系推理。
参考GraphRag使用 Semantic Kernel 来实现的dotnet版本,可以使用NuGet开箱即用集成到项目···
llm
开源
用 Rust 玩转大模型,但已停止维护
[Unmaintained, see README] An ecosystem of Rust libraries for working with large lan···
openai-partial-stream
开源
把 token 流秒变 JSON,让 AI 应用界面不再干等。
Turn a stream of token into a parsable JSON object as soon as possible. Enable Strea···
tambo
开源
让 AI 回复直接变成可点的 React 界面
Generative UI SDK for React
