rig

用 Rust 快速搭建可靠、可扩展的 LLM 应用

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 1019 🐛 待处理 74 👀 关注 57
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 9096
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,可自行部署使用。

项目预览

rig 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队0xPlaygrounds
官网地址https://rig.rs
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Rust
技术栈/模型agent,ai,artificial-intelligence,automation,generative-ai,large-language-model,llm,llmops,rust,scalable-ai
GitHub 星标★ 9096
上线时间2024-06-05 00:00:00
代码更新2026-11-09
仓库体积147.8 MB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-09
浏览次数7

项目介绍

rig 是一个用 Rust 构建模块化、可扩展 LLM 应用的框架,旨在解决 Rust 生态中缺乏成熟 LLM 开发工具的问题。它提供统一的接口来接入多种主流大模型(如 OpenAI、Cohere、Azure 等),支持 Agent 构建、RAG(检索增强生成)、工具调用和流式响应等核心能力。通过清晰的抽象层和组合式设计,开发者可以像搭积木一样灵活组装 LLM 工作流,同时享受 Rust 带来的高性能和内存安全。项目强调生产级可靠性,适合对延迟和资源占用敏感的场景。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 9096

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:进阶 约 10 分钟 部署方式:库/依赖 5 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 已安装 Rust 工具链(rustc 与 cargo)
  • 网络可访问 crates.io 以拉取依赖
  • 如需接入云端大模型,需准备对应厂商(如 OpenAI、Cohere、Azure)的 API Key

安装与启动步骤

  1. 1安装 Rust 工具链

    rig 是 Rust 库,先确保本机有 cargo 与 rustc;已安装可跳过此步。

    curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh
  2. 2创建 Cargo 项目

    新建一个 Rust 二进制项目作为练习工程,目录名可自行修改。

    cargo new my-rig-app
  3. 3添加 rig 依赖

    进入项目目录后把 rig 门面加入依赖,根 rig 已重新导出 rig-core 与 rig-agent。

    cd my-rig-app
    cargo add rig
  4. 4查阅官方文档

    README 未给示例代码,按需翻阅官网文档与 API 参考了解用法。

  5. 5编译验证

    编译工程确认依赖解析成功,无错误即说明环境与依赖就绪。

    cargo build

如何确认成功

执行 cargo build 无报错,并在代码中能正常 use rig:: 引入相关模块,即表示依赖安装成功。

常见问题

Q:rig-core 和 rig-agent 有什么区别?

A:rig-core 提供与厂商无关的消息、补全模型、工具、记忆与向量存储契约;rig-agent 提供构建器、流式与提示 trait、工具调用及 AgentRun 状态机,且默认启用。

Q:可以只依赖 rig 一个 crate 吗?

A:可以。README 说明根 rig 门面会把两者重新导出到熟悉的路径,因此多数代码只需依赖 rig。

Q:README 里为什么没有安装命令和示例?

A:节选内容主要介绍运行时模块划分,安装与用法需查看官网文档 rig.rs/docs 和 docs.rs 上的 API Reference。

注意事项

  • README 节选未给出具体安装命令,上述步骤为基于 Rust 库项目的通用准备动作,非 README 原文。
  • rig 是可被引用的库/依赖,不是独立服务,没有端口和后台启动命令。
  • 版本与最新 API 以 crates.io/crates/rig 和 docs.rs/rig 页面为准。

核心亮点

  • 统一抽象层,轻松切换多家 LLM 提供商,避免供应商锁定
  • 基于 Rust 原生性能,内存安全且低延迟,适合高并发生产环境
  • 内置 Agent 和 RAG 支持,开箱即用,减少重复造轮子

不足之处

  • 生态相对年轻,第三方集成和社区资源不如 Python 丰富
  • 学习曲线较陡,需要熟悉 Rust 语言和异步编程模型

适用场景

  • 构建高性能、低延迟的 LLM 推理服务
  • 开发需要多模型切换或混合调用的复杂 Agent 系统
  • 在资源受限或对稳定性要求高的边缘/嵌入式场景部署 LLM 功能

替代项目

LangChain、LlamaIndex、Haystack

上一篇:llama_index

下一篇:atomic-agents

同类项目推荐

IntelliJava 开源

几行 Java 代码,快速接入 ChatGPT、DALL·E 等 AI 服务

Integrate with the latest language models, image generation, speech, and deep learni···

★ 64 2026-08-09
fastctx 开源

让 AI 代理按需读代码,省 token 又找得准

Fast, context-efficient repository tools for AI agents (MCP)

★ 1535 2026-09-22
code-context-engine 开源

索引代码库,让 AI 搜索而非读文件,省 94% token。

Save 94% on AI coding tokens. Index your codebase, agents search instead of reading ···

★ 452 2026-08-09
ComfyUI-Gemini 开源

在 ComfyUI 里直接调用 Gemini,让多模态 AI 助力图像创作。

Using Gemini in ComfyUI

★ 781 2026-08-09
AgentVerse 开源

编排多智能体协作,搞定复杂任务与模拟场景

AgentVerse is designed to facilitate the deployment of multiple LLM-based agents in···

★ 5167 2026-08-09
compose-for-agents 开源

用 Docker Compose 一键编排多智能体,快速跑通开源 LLM 应用

Build and run AI agents using Docker Compose. A collection of ready-to-use examples ···

★ 1072 2026-08-09
haystack-cookbook 开源

照着跑,快速搞定 RAG 搜索应用

‍ A collection of example notebooks using Haystack

★ 550 2026-08-09
ai-engineering 开源

给 AI 写的代码装上安全闸门,提交前自动查质量查安全

Developer-centered AI engineering: build software with security, quality and governa···

★ 65 2026-08-09