auto

把 LLM 的重复活儿编译成微成本 wasm,一次搞定不再重跑

auto 是一个被称为“AGI 编译器”的基础设施项目,用 Rust 编写。它通过记录 LLM agent 的行为轨迹,利用 conformal prediction 等算法证明哪些行为模式是重复出现的,然后将这些已验证的重复行为编译成沙箱化的 WebAssembly (wasm) 二进制文件。这些编译产物可以在极低成本(微美元级别)下运行,从而避免重复让 LLM 处理相同任务,实现推理优化和程序合成。项目旨在解决 LLM 推理成本高昂、行为不可控的问题,将高频、稳定的 agent 行为固化下来,形成可验证、可复用的执行单元。其核心能力包括行为记录、重复性证明、代码编译和沙箱执行,并配套了学术论文(arXiv:2607.04542)提供理论支撑。目前项目处于早期阶段(121 星),但定位前沿,融合了 agent 基础设施、编译器和推理优化等多个热点方向。

开源 unknown 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 126
维护状态 维护中
是否开源 是
定价模式 unknown

项目数据

分类基础设施
开发团队RightNow-AI
所属国家
定价模式unknown
价格说明定价信息待确认
访问状态
是否开源是
开源协议Apache-2.0
主要语言Rust
技术栈/模型agent,ai-infrastructure,compiler,conformal-prediction,distillation,inference-optimization,llm,program-synthesis,webassembly
GitHub 星标★ 126
30天Star增速
HF 下载量
上线时间2026-07-05 00:00:00
最近更新2026-09-17 00:00:00
维护状态维护中
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数4

使用教程

核心亮点

  • 创新性融合:将 LLM 行为记录与编译器思想结合,直接降低推理成本,思路独特
  • 理论支撑:有 arXiv 论文,基于 conformal prediction 提供形式化证明,非纯工程 hack
  • 沙箱安全:编译产物为 wasm,天然隔离,运行安全且可移植性强

不足之处

  • 项目处于早期,生态和文档尚不完善,社区规模小(121 星)
  • 实际效果依赖 LLM 行为模式的可重复性,复杂多变任务可能难以编译固化

适用场景

  • 高频重复的 LLM 调用场景,如客服问答、代码生成模板,可编译为低成本函数
  • 需要严格验证和审计的 agent 行为,如金融交易、医疗决策,利用证明保证可靠性
  • 边缘设备或资源受限环境,通过 wasm 轻量运行,避免依赖云端 LLM

替代项目

DSPy、LlamaIndex、LangChain

项目介绍

auto 是智能体领域的开源项目,由 RightNow-AI 开发,是 2026 年新上线的项目。

它收录于智能体分类,该分类目前共有 2,499 个项目,GitHub 星标数为 126。

项目仍在小幅维护中,最近一次代码更新于 2026-09-17。

它主要面向的使用场景是:高频重复的LLM调用场景,如客服问答、代码生成模板,可编译为低成本函数。同类可对比的替代方案包括 DSPy、LlamaIndex、LangChain。

上一篇:holon

下一篇:mozaik

同类项目推荐

xinchao-dynamic-mind 开源

给 AI 装上疲惫和欲望,让交互更真实

独立、可自托管的 AI 动态心智状态引擎:驱动力、念头池、疲惫、睡眠与意图。

★ 195 2026-08-09
deepseek-harness 开源

把 AI 能力拆成乐高积木,拼出你的专属智能体。

DeepSeek Harness: Everything is a Plugin.

★ 233327 2026-08-15
EvoAgentX 开源

让 AI 智能体自己迭代变强,越用越聪明

EvoAgentX: Building a Self-Evolving Ecosystem of AI Agents

★ 3351 2026-09-12
AutoGPT 开源

开箱即用的 AI 员工,交代任务就自己干完

AutoGPT is the vision of accessible AI for everyone, to use and to build on. Our mis···

★ 187492 2026-08-09