rig

用 Rust 快速搭建可靠、可扩展的 LLM 应用

rig 是一个用 Rust 构建模块化、可扩展 LLM 应用的框架,旨在解决 Rust 生态中缺乏成熟 LLM 开发工具的问题。它提供统一的接口来接入多种主流大模型(如 OpenAI、Cohere、Azure 等),支持 Agent 构建、RAG(检索增强生成)、工具调用和流式响应等核心能力。通过清晰的抽象层和组合式设计,开发者可以像搭积木一样灵活组装 LLM 工作流,同时享受 Rust 带来的高性能和内存安全。项目强调生产级可靠性,适合对延迟和资源占用敏感的场景。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 8699
维护状态 活跃
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队0xPlaygrounds
所属国家
官网地址https://rig.rs
定价模式free
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态
是否开源是
开源协议MIT
主要语言Rust
技术栈/模型agent,ai,artificial-intelligence,automation,generative-ai,large-language-model,llm,llmops,rust,scalable-ai
GitHub 星标★ 8699
30天Star增速
HF 下载量
上线时间2024-06-05 00:00:00
最近更新2026-09-22 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数5

使用教程

难度:进阶 约 10 分钟 部署方式:库/依赖 5 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 已安装 Rust 工具链(rustc 与 cargo)
  • 网络可访问 crates.io 以拉取依赖
  • 如需接入云端大模型,需准备对应厂商(如 OpenAI、Cohere、Azure)的 API Key

安装与启动步骤

  1. 1安装 Rust 工具链

    rig 是 Rust 库,先确保本机有 cargo 与 rustc;已安装可跳过此步。

    curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh
  2. 2创建 Cargo 项目

    新建一个 Rust 二进制项目作为练习工程,目录名可自行修改。

    cargo new my-rig-app
  3. 3添加 rig 依赖

    进入项目目录后把 rig 门面加入依赖,根 rig 已重新导出 rig-core 与 rig-agent。

    cd my-rig-app
    cargo add rig
  4. 4查阅官方文档

    README 未给示例代码,按需翻阅官网文档与 API 参考了解用法。

  5. 5编译验证

    编译工程确认依赖解析成功,无错误即说明环境与依赖就绪。

    cargo build

如何确认成功

执行 cargo build 无报错,并在代码中能正常 use rig:: 引入相关模块,即表示依赖安装成功。

常见问题

Q:rig-core 和 rig-agent 有什么区别?

A:rig-core 提供与厂商无关的消息、补全模型、工具、记忆与向量存储契约;rig-agent 提供构建器、流式与提示 trait、工具调用及 AgentRun 状态机,且默认启用。

Q:可以只依赖 rig 一个 crate 吗?

A:可以。README 说明根 rig 门面会把两者重新导出到熟悉的路径,因此多数代码只需依赖 rig。

Q:README 里为什么没有安装命令和示例?

A:节选内容主要介绍运行时模块划分,安装与用法需查看官网文档 rig.rs/docs 和 docs.rs 上的 API Reference。

注意事项

  • README 节选未给出具体安装命令,上述步骤为基于 Rust 库项目的通用准备动作,非 README 原文。
  • rig 是可被引用的库/依赖,不是独立服务,没有端口和后台启动命令。
  • 版本与最新 API 以 crates.io/crates/rig 和 docs.rs/rig 页面为准。

核心亮点

  • 统一抽象层,轻松切换多家 LLM 提供商,避免供应商锁定
  • 基于 Rust 原生性能,内存安全且低延迟,适合高并发生产环境
  • 内置 Agent 和 RAG 支持,开箱即用,减少重复造轮子

不足之处

  • 生态相对年轻,第三方集成和社区资源不如 Python 丰富
  • 学习曲线较陡,需要熟悉 Rust 语言和异步编程模型

适用场景

  • 构建高性能、低延迟的 LLM 推理服务
  • 开发需要多模型切换或混合调用的复杂 Agent 系统
  • 在资源受限或对稳定性要求高的边缘/嵌入式场景部署 LLM 功能

替代项目

LangChain、LlamaIndex、Haystack

项目介绍

rig 是开发框架领域的开源项目,由 0xPlaygrounds 开发,2024 年首次发布。

在全站 13,014 个收录项目中,它的 GitHub 星标数(8,699)位列前 6%,在开发框架分类的 795 个项目里位列前 7%。

近 44 天,它的 GitHub 星标从 8,221 增加到 8,699,净增 478。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-22。MIT许可证,完全免费,可自行部署使用。

它主要面向的使用场景是:构建高性能、低延迟的LLM推理服务。同类可对比的替代方案包括 LangChain、LlamaIndex、Haystack。

上一篇:llama_index

下一篇:atomic-agents

同类项目推荐

langchain 开源

组装 AI 应用的乐高积木,从想法到上线不换工具

The agent engineering platform.

★ 146874 2026-08-09
transformers 开源

全球最大的模型仓库全家桶,想用的模型一把抓

Transformers: the model-definition framework for state-of-the-art machine learning m···

★ 166529 2026-08-09
pi 开源

一套 TypeScript 工具包,快速搭出能写代码的 AI agent

AI agent toolkit: unified LLM API, agent loop, TUI, coding agent CLI

★ 108504 2026-09-12