rllm

一个 Rust crate 搞定多模型调用,链式提示词开箱即用

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 对话助手 🍴 复刻 4 🐛 待处理 3 👀 关注 4
GitHub ↗
GitHub 星标 ★ 137
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源 Rust 库,本地部署,完全免费。

项目预览

rllm 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类对话助手
开发团队graniet
定价模式🏷️完全免费
价格说明开源 Rust 库,本地部署,完全免费。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Rust
技术栈/模型ai,anthropic,builder-pattern,chatbot,llm,nlp,ollama,openai,prompt-engineering,rust,rust-crate,rust-library
GitHub 星标★ 137
上线时间2025-01-05 00:00:00
代码更新2025-05-20
仓库体积251 KB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数6

项目介绍

rllm 是一个 Rust 编写的 LLM 对话助手库,旨在通过统一的接口调用多种大模型后端(如 OpenAI、Anthropic、Ollama),解决多模型切换和集成成本高的问题。它采用简单的构建器模式配置,内置提示词链和模板功能,让开发者可以快速搭建支持多模型的对话应用。核心能力包括:多后端抽象、链式调用、模板渲染,以及基于 Rust 的安全高性能特性。项目处于早期阶段,星标 136,适合探索 Rust LLM 生态的开发者。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 137

技术标签

核心亮点

  • 统一接口支持 OpenAI、Anthropic、Ollama 等主流后端,切换模型无需改业务代码
  • 构建器模式配置直观,上手快,减少样板代码
  • 内置提示词链和模板,方便构建复杂对话流程

不足之处

  • 项目早期,API 可能不稳定,文档和示例较少
  • 社区生态尚未形成,第三方集成和扩展有限

适用场景

  • 需要多模型切换的 Rust 对话应用开发
  • 快速原型验证不同 LLM 的效果
  • 构建自定义提示词链的自动化工具

替代项目

llm (Rust)、async-openai、genai

上一篇:Kovi

下一篇:zhin

同类项目推荐

instructor-php 开源

PHP 开发者也能轻松获得结构化 AI 输出,快速构建 Agent 应用。

Unified LLM API, structured data outputs with LLMs, and agent SDK - in PHP

★ 328 2026-08-09
ogx 开源

一套接口接多家模型,快速搭出可上线的 AI 应用

Open GenAI Stack

★ 8456 2026-10-19
ComfyUI-sol-attn 开源

在 ComfyUI 中让视频生成注意力更快更省显存

NVIDIA Sol-Attn for ComfyUI / Triton kernel on SM89 - SM121, with zero-copy MiniMax ···

★ 159 2026-08-09
agentsilex 开源

300行代码,让你完全掌控AI智能体,无黑盒魔法

A transparent, minimal, and hackable agent framework. ~300 lines of readable code. F···

★ 458 2026-08-09
claude-skills 开源

拿来即用的 Claude Code 技能包,覆盖五大业务场景

200+ production-ready Claude Code skills for sales, marketing, design, engineering, ···

★ 421 2026-10-06
adk-docs 开源

写代码定义 AI Agent,评估部署一条龙

An open-source, code-first toolkit for building, evaluating, and deploying sophistic···

★ 1533 2026-09-22
trpc-agent-go 开源

用 Go 快速构建生产级 AI Agent,支持图编排与 MCP 生态

A Go framework for building production agent systems with graph workflows, tools, me···

★ 1912 2026-08-09
agent-framework-samples 开源

照着 C# 示例改几行,就能跑起自己的 AI Agent

Samples demonstrating the Microsoft Agent Framework in C#

★ 336 2026-09-13
PaddleNLP 开源

一站式搞定NLP大模型与小模型,从训练到部署全流程提速

Easy-to-use and powerful LLM and SLM library with awesome model zoo.

★ 12987 2026-08-09