vllora

让 AI 代理调试像看监控一样直观

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 51 🐛 待处理 29 👀 关注 8
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 810
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,本地部署,完全免费

项目预览

vllora 项目界面预览图
图片来源:项目官网

项目数据

分类基础设施
开发团队vllora
官网地址https://vllora.dev
定价模式🏷️完全免费
价格说明开源项目,本地部署,完全免费
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议NOASSERTION
主要语言Rust
技术栈/模型agents,ai-agents,ai-gateway,anthropic,azure,claude,deepseek,gemini,google-adk,langchain,llm,llm-gateway,model-context-protocol,openai,router,rust-lang,tracing,vercelaisdk
GitHub 星标★ 810
上线时间2025-01-27 00:00:00
代码更新2026-06-30
仓库体积83.5 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数7

项目介绍

vllora 是一个用 Rust 编写的 AI 代理调试工具,旨在解决 AI 代理开发过程中难以观察、调试和追踪内部状态的问题。它提供了一套可视化和交互式的调试界面,让开发者能够实时查看代理的决策过程、工具调用、上下文变化等关键信息。核心能力包括:逐步执行代理逻辑、检查中间状态、回放历史轨迹、设置断点以及模拟不同输入场景。通过将代理运行时的内部机制透明化,vllora 帮助开发者快速定位逻辑错误、性能瓶颈和意外行为,从而提升 AI 代理的可靠性和开发效率。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 810

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:入门 约 15 分钟 部署方式:Docker 部署 4 步

环境要求

  • Docker
  • 一个使用 OpenAI 兼容接口的应用

安装与启动步骤

  1. 1装 CLI

    Agent 运行时的实时观测工具,支持 brew 与二进制。

    brew install vllora
  2. 2起本地服务

    也可以直接 clone 后用 compose 起。

    git clone https://github.com/vllora/vllora.git
    cd vllora && docker compose up -d
  3. 3接你的框架

    把 LangChain 或 OpenAI SDK 的 base_url 指过来即可。

    export OPENAI_BASE_URL=http://localhost:8787/v1
  4. 4看调用链

    在面板里看每一跳的耗时与 token 消耗。

    vllora ui

如何确认成功

面板里出现应用发出的请求记录,含耗时与输入输出。

注意事项

  • 它是旁路观测,不改业务代码,只要改 base_url。
  • 生产环境接入要注意日志里别落敏感 prompt。

核心亮点

  • 提供可视化界面,实时展示代理决策和工具调用,降低调试门槛
  • 支持逐步执行和断点设置,便于定位复杂逻辑问题
  • 基于 Rust 实现,性能开销低,适合高频调试场景

不足之处

  • 早期项目,功能覆盖有限,可能不支持所有主流代理框架
  • 文档和社区生态尚在建设中,上手资料较少

适用场景

  • 开发复杂 AI 代理时,排查决策逻辑错误
  • 对比不同提示词或参数对代理行为的影响
  • 教学演示,展示 AI 代理内部工作原理

替代项目

Langfuse、LangSmith、AgentOps

上一篇:llm-api-starterkit

下一篇:reverse-check

同类项目推荐

fractalic 开源

用 Markdown 和 YAML 像写文档一样搭建 AI 工作流,Git 版本控制轻松管理。

Fractalic: Build and version-control AI systems using Markdown & YAML. Combine LLM c···

★ 52 2026-08-09
swiftide 开源

用 Rust 快速构建流式 LLM 应用,索引查询一把梭

Fast, streaming indexing, query, and agentic LLM applications in Rust

★ 803 2026-08-09
scallop 开源

让神经网络学会逻辑推理,构建可解释的 AI 系统

Framework and Language for Neurosymbolic Programming.

★ 525 2026-08-09
epsiclaw 开源

515行Python实现极简智能体,秒懂秒改

The Karpathy treatment for OpenClaw - stripped to ε. 515 lines of Python, 6 files, ···

★ 51 2026-08-09
simplemind 开源

轻量 Python 客户端,统一调用多家大模型 API

Python API client for AI providers that intends to replace LangChain and LangGraph f···

★ 538 2026-11-03
GraphRag.Net 开源

在 .NET 中一键集成 GraphRAG,让知识库问答更懂关系推理。

参考GraphRag使用 Semantic Kernel 来实现的dotnet版本,可以使用NuGet开箱即用集成到项目···

★ 230 2026-08-09
llm 开源

用 Rust 玩转大模型,但已停止维护

[Unmaintained, see README] An ecosystem of Rust libraries for working with large lan···

★ 6145 2026-08-09
openai-partial-stream 开源

把 token 流秒变 JSON,让 AI 应用界面不再干等。

Turn a stream of token into a parsable JSON object as soon as possible. Enable Strea···

★ 124 2026-08-09
tambo 开源

让 AI 回复直接变成可点的 React 界面

Generative UI SDK for React

★ 11224 2026-10-20