rllm

一个 Rust crate 搞定多模型调用,链式提示词开箱即用

rllm 是一个 Rust 编写的 LLM 对话助手库,旨在通过统一的接口调用多种大模型后端(如 OpenAI、Anthropic、Ollama),解决多模型切换和集成成本高的问题。它采用简单的构建器模式配置,内置提示词链和模板功能,让开发者可以快速搭建支持多模型的对话应用。核心能力包括:多后端抽象、链式调用、模板渲染,以及基于 Rust 的安全高性能特性。项目处于早期阶段,星标 136,适合探索 Rust LLM 生态的开发者。

开源 free 对话助手
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 138
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类对话助手
开发团队graniet
所属国家
官网地址
定价模式free
价格说明开源 Rust 库,本地部署,完全免费。
访问状态
是否开源是
开源协议
主要语言Rust
技术栈/模型ai,anthropic,builder-pattern,chatbot,llm,nlp,ollama,openai,prompt-engineering,rust,rust-crate,rust-library
GitHub 星标★ 138
30天Star增速
HF 下载量
上线时间2025-01-05 00:00:00
最近更新2026-08-16 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数5

使用教程

核心亮点

  • 统一接口支持 OpenAI、Anthropic、Ollama 等主流后端,切换模型无需改业务代码
  • 构建器模式配置直观,上手快,减少样板代码
  • 内置提示词链和模板,方便构建复杂对话流程

不足之处

  • 项目早期,API 可能不稳定,文档和示例较少
  • 社区生态尚未形成,第三方集成和扩展有限

适用场景

  • 需要多模型切换的 Rust 对话应用开发
  • 快速原型验证不同 LLM 的效果
  • 构建自定义提示词链的自动化工具

替代项目

llm (Rust)、async-openai、genai

项目介绍

rllm 是开发框架领域的开源项目,由 graniet 开发,2025 年首次发布。

它收录于开发框架分类,该分类目前共有 803 个项目,GitHub 星标数为 138。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-08-16。开源 Rust 库,本地部署,完全免费。

它主要面向的使用场景是:需要多模型切换的Rust对话应用开发。同类可对比的替代方案包括 llm (Rust)、async-openai、genai。

上一篇:Kovi

下一篇:zhin

同类项目推荐

langchain 开源

组装 AI 应用的乐高积木,从想法到上线不换工具

The agent engineering platform.

★ 146874 2026-08-09
transformers 开源

全球最大的模型仓库全家桶,想用的模型一把抓

Transformers: the model-definition framework for state-of-the-art machine learning m···

★ 166529 2026-08-09
pi 开源

一套 TypeScript 工具包,快速搭出能写代码的 AI agent

AI agent toolkit: unified LLM API, agent loop, TUI, coding agent CLI

★ 108504 2026-09-12