RPG

给大模型 RL 训练加上安全护栏,稳定提升性能

RPG 是一个基于 KL 正则化策略梯度的强化学习训练框架,源自 ICLR 2026 论文。它旨在解决大语言模型在强化学习微调中策略更新过快、导致奖励黑客和分布偏移的问题。核心能力是提供一种稳定的策略优化算法,通过 KL 散度约束策略更新幅度,在提升奖励的同时保持模型原有能力。项目代码为 Python 实现,支持与主流 RL 训练流程集成,适合研究者和工程师复现论文结果或进行自定义实验。目前处于早期阶段,功能聚焦于核心算法验证。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 78
维护状态 维护中
是否开源
定价模式 free

项目数据

分类开源模型
开发团队complex-reasoning
所属国家
定价模式free
价格说明开源项目,MIT许可证,可自由使用,无付费版本。
访问状态
是否开源
开源协议MIT
主要语言Python
技术栈/模型deep-learning,foundation-models,large-language-models,llm,post-training,reinforcement-learning
GitHub 星标★ 78
30天Star增速
HF 下载量
上线时间2025-05-26 00:00:00
最近更新2026-09-19 00:00:00
维护状态维护中
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数2

使用教程

核心亮点

  • 算法创新:KL 正则化直接缓解策略崩溃,理论有 ICLR 背书
  • 代码简洁:Python 实现,易于阅读和二次开发
  • 紧跟前沿:针对 LLM 强化学习痛点,实用性强

不足之处

  • 文档/社区待观察
  • 早期项目,功能覆盖有限,可能缺少完整训练管线

适用场景

  • 学术研究:复现论文实验,对比不同 RL 算法
  • LLM 对齐:在 RLHF 流程中替代 PPO 等算法,提升稳定性
  • 策略优化教学:作为强化学习入门案例

替代项目

TRL、OpenRL、verl

项目介绍

RPG 是模型训练领域的开源项目,由 complex-reasoning 开发,2025 年首次发布。

它收录于模型训练分类,该分类目前共有 518 个项目,GitHub 星标数为 78。

项目仍在小幅维护中,最近一次代码更新于 2026-09-19。MIT许可证,可自由使用,无付费版本。

它主要面向的使用场景是:学术研究:复现论文实验,对比不同RL算法。同类可对比的替代方案包括 TRL、OpenRL、verl。

上一篇:DMax

下一篇:residual-context-diffusion

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 62178 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1286 2026-08-13