Long-RL

让强化学习轻松驾驭超长序列,训练更稳更快

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 31 🐛 待处理 25 👀 关注 3
GitHub ↗
GitHub 星标 ★ 730
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0许可证,可免费使用和部署。

项目预览

Long-RL 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队NVlabs
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0许可证,可免费使用和部署。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型efficient-ai,large-language-models,long-sequence,multi-modality,reinforcement-learning,sequence-parallelism
GitHub 星标★ 730
上线时间2025-07-08 00:00:00
代码更新2025-09-24
仓库体积7.8 MB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数49

项目介绍

Long-RL 是一个针对长序列强化学习(RL)训练的开源项目,由 NeurIPS 2025 论文支撑,旨在解决 RL 在长上下文场景下训练不稳定、内存开销大等问题。它提供了高效的序列级 RL 训练实现,支持对长输入输出(如代码生成、数学推理)进行策略优化,并内置了多种长序列 RL 算法(如 GRPO 的扩展)。核心能力包括:优化长序列的 RL 训练流程、降低显存占用、支持与主流 LLM 框架集成,以及提供可复现的实验配置。项目代码基于 Python 和 PyTorch,适合研究者和工程师在长任务场景中应用 RL 微调。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 730

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:高级 约 90 分钟 部署方式:集群部署 5 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 多卡集群
  • 视频数据集
  • Slurm(多机时)

安装与启动步骤

  1. 1克隆

    先拉代码。

    git clone https://github.com/NVlabs/Long-RL.git
  2. 2安装

    可编辑模式装。

    pip install -e .
  3. 3替换推理后端

    脚本会替换成它需要的版本。

    bash vllm_replace.sh
  4. 4跑单机示例

    先用小模型跑通。

    bash examples/new_supports/qwen2_5_vl_3b_video_grpo.sh $VIDEO_PATH
  5. 5多机训练

    要扩规模就上调度脚本。

    bash scripts/srun_multi_nodes.sh examples/new_supports/qwen2_5_vl_3b_video_grpo.sh 2

如何确认成功

单机示例能起训练并打印奖励曲线。

注意事项

  • 它做长视频推理的强化学习训练。
  • 后端替换脚本必须跑,否则版本不匹配。

核心亮点

  • 针对长序列 RL 的显存优化技术,显著降低训练门槛
  • 提供 NeurIPS 论文级算法实现,实验配置完整可复现
  • 支持多种长任务场景(代码、数学),扩展性强

不足之处

  • 早期项目,文档和社区支持待观察
  • 依赖特定框架版本,环境配置可能较复杂

适用场景

  • 长代码生成任务的 RL 微调
  • 长数学推理链的强化学习优化
  • 长文档摘要或问答的 RL 训练

替代项目

verl、OpenRLHF、TRL

上一篇:VeriThinker

下一篇:ORLM

同类项目推荐

MLOps 开源

跟着项目清单,动手练熟MLOps全流程

The repository contains a list of projects which I will work on while learning and i···

★ 79 2026-08-09
ms-swift 开源

一条命令微调千种大模型,从训练到部署全搞定

Use PEFT or Full-parameter to CPT/SFT/DPO/GRPO 600+ LLMs (Qwen3.8, DeepSeek-V4, GLM-···

★ 16077 2026-08-09
TFMQ-DM 开源

给扩散模型瘦身,4-bit量化不降画质,部署提速。

[CVPR 2024 Highlight & TPAMI 2025] This is the official PyTorch implementation of "T···

★ 111 2026-08-09
TextRL 开源

在任意 HuggingFace 模型上实现 RLHF 微调,让生成更符合人类偏好。

Implementation of ChatGPT RLHF (Reinforcement Learning with Human Feedback) on any g···

★ 563 2026-08-09
ai-toolkit 开源

写份配置就能微调扩散模型,LoRA 训练开箱即用

The ultimate training toolkit for finetuning diffusion models

★ 12604 2026-10-12
FedKTL 开源

用服务端预训练生成器,让异构联邦学习上传更少、效果更好。

CVPR 2024 accepted paper, An Upload-Efficient Scheme for Transferring Knowledge From···

★ 69 2026-08-09
modalities 开源

PyTorch 原生分布式训练,配置化复现大模型实验

Modalities, a PyTorch-native framework for distributed and reproducible foundation m···

★ 112 2026-09-19