Long-RL

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL 是一个针对长序列强化学习(RL)训练的开源项目,由 NeurIPS 2025 论文支撑,旨在解决 RL 在长上下文场景下训练不稳定、内存开销大等问题。它提供了高效的序列级 RL 训练实现,支持对长输入输出(如代码生成、数学推理)进行策略优化,并内置了多种长序列 RL 算法(如 GRPO 的扩展)。核心能力包括:优化长序列的 RL 训练流程、降低显存占用、支持与主流 LLM 框架集成,以及提供可复现的实验配置。项目代码基于 Python 和 PyTorch,适合研究者和工程师在长任务场景中应用 RL 微调。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 729
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队NVlabs
所属国家
官网地址
定价模式free
价格说明开源项目,Apache-2.0许可证,可免费使用和部署。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型efficient-ai,large-language-models,long-sequence,multi-modality,reinforcement-learning,sequence-parallelism
GitHub 星标★ 729
30天Star增速
HF 下载量
上线时间2025-07-08 00:00:00
最近更新2026-09-15 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数46

使用教程

核心亮点

  • 针对长序列 RL 的显存优化技术,显著降低训练门槛
  • 提供 NeurIPS 论文级算法实现,实验配置完整可复现
  • 支持多种长任务场景(代码、数学),扩展性强

不足之处

  • 早期项目,文档和社区支持待观察
  • 依赖特定框架版本,环境配置可能较复杂

适用场景

  • 长代码生成任务的 RL 微调
  • 长数学推理链的强化学习优化
  • 长文档摘要或问答的 RL 训练

替代项目

verl、OpenRLHF、TRL

项目介绍

Long-RL 是模型训练领域的开源项目,由 NVlabs 开发,2025 年首次发布。

它收录于模型训练分类,该分类目前共有 523 个项目,GitHub 星标数为 729。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-15。Apache-2.0许可证,可免费使用和部署。

它主要面向的使用场景是:长代码生成任务的RL微调。同类可对比的替代方案包括 verl、OpenRLHF、TRL。

上一篇:VeriThinker

下一篇:ORLM

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 62652 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1298 2026-08-13