rllm

让LLM强化学习训练像搭积木一样简单，快速提升模型推理能力。

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署智能体 🍴 复刻 638 🐛 待处理 182 👀 关注 30

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 5911

维护状态较活跃

是否开源开源

定价模式 🏷️完全免费开源项目，Apache-2.0 许可证，可免费使用和部署。

项目预览

项目数据

分类智能体

开发团队rllm-org

官网地址https://docs.rllm-project.com

GitHubhttps://github.com/rllm-org/rllm

定价模式🏷️完全免费

价格说明开源项目，Apache-2.0 许可证，可免费使用和部署。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型agent-framework,agentic-workflow,coding-agent,distributed-training,llm-reasoning,llm-training,machine-learning,ml-infrastructure,ml-platform,reinforcement-learning,search-agent,swe-agent,tinker,verl

GitHub 星标★ 5911

上线时间2025-01-26 00:00:00

代码更新2026-10-16

仓库体积139.5 MB

本站数据更新2026-11-09

维护状态较活跃

收录时间2026-08-09

浏览次数7

项目介绍

rllm是一个致力于将强化学习（RL）技术普及到大型语言模型（LLM）训练与推理中的开源框架。它主要解决当前LLM在复杂推理、决策和智能体任务中依赖监督微调、泛化能力不足的问题，通过提供分布式训练基础设施和智能体工作流支持，让开发者能够更便捷地应用强化学习来优化模型。核心能力包括：支持多种RL算法（如PPO、GRPO等）与LLM的集成，提供高效的分布式训练管线，内置智能体（agent）框架和编码智能体（coding-agent）支持，可灵活构建从环境交互到策略更新的闭环。项目采用Python编写，技术栈覆盖机器学习基础设施、智能体工作流和LLM推理，旨在降低RL应用门槛，使研究者和工程师无需从零搭建复杂系统即可提升模型的推理与决策能力。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 5911

技术标签

agent-framework agentic-workflow coding-agent distributed-training llm-reasoning

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：入门约 10 分钟部署方式：命令行工具 4 步

环境要求

Python >= 3.11
已安装 uv（安装命令使用 uv pip）
网络可访问 GitHub，从源码仓库拉取安装
（可选）需要多卡分布式训练时准备 verl 后端环境，单机可用 tinker 后端

安装与启动步骤

1确认 Python 版本

rLLM 要求 Python >= 3.11，版本过低请先升级 Python 再执行后续安装。
```
python --version
```
2安装 rllm

官方推荐用 uv pip 直接从 GitHub 仓库安装；此命令默认安装运行 rllm CLI 所需依赖及 tinker（单机、Tinker API）后端。
```
uv pip install "rllm @ git+https://github.com/rllm-org/rllm.git"
```
3按需安装其他后端

README 说明上述安装只覆盖 tinker 后端；verl（多卡分布式）、fireworks 等后端需另行安装，原文该段内容被截断，请以官网文档为准。
4运行基准测试验证

README 提供 rllm eval <name> 命令可自动拉取并运行 60+ 内置基准（如 Terminal-Bench 2.0、AIME、MATH-500）。把 <name> 换成具体基准名即可，能正常拉取运行说明环境就绪。

如何确认成功

执行 rllm eval <name> 能自动拉取并成功运行目标基准任务，即表示 rllm CLI 与后端环境安装成功。

常见问题

Q：安装后就能用所有训练后端吗？

A：不能。该命令只安装 tinker（单机）后端依赖，verl（分布式多卡）、fireworks 等后端需另外安装，README 中对应说明被截断，请查官网文档。

Q：可以换其他沙箱执行智能体吗？

A：可以。rLLM 支持 Docker、Daytona、Modal 或本地沙箱，并提供快照与预热池加速以降低训练规模的 rollout 开销。

Q：支持哪些训练方法？

A：支持 GRPO、REINFORCE、RLOO、SFT、on-policy distillation 等，并可用一个标志在多个训练后端之间切换，评测与训练共用同一份智能体代码。

Q：Python 版本不够 3.11 怎么办？

A：README 明确要求 Python >= 3.11，请先升级解释器或使用对应版本虚拟环境后再安装。

注意事项

README 的 Installation 只给出 pip/源码安装方式，Quickstart 部分未提供具体命令，本节步骤均来自 README 明确内容，其余用法请参考官网 https://docs.rllm-project.com。
rllm eval 中的 <name> 为基准名称占位，需替换为实际基准名（README 举例 Terminal-Bench 2.0、SWE-bench、AIME、MATH-500 等）。
安装走 git+https 拉取源码，国内网络可能较慢，建议保证 GitHub 可访问。
若计划做多机多卡分布式训练，需额外准备 verl 后端环境与相应硬件资源。