RLCSD

用对比自蒸馏强化 RL 训练,让策略更稳更高效

RLCSD 是论文《RLCSD: Reinforcement Learning with Contrastive On-Policy Self-Distillation》的官方开源实现,旨在通过对比式在线自蒸馏方法提升强化学习(RL)策略的性能与样本效率。该项目主要面向连续控制任务,在策略梯度算法(如 PPO)基础上引入自蒸馏机制,利用对比学习约束策略网络中间层表征,使策略在探索过程中保持表征一致性,从而缓解高维状态空间下的训练不稳定问题。核心能力包括:提供完整的 RLCSD 训练流程、与主流 RL 框架(如 Stable-Baselines3)集成、支持多种连续控制环境(如 MuJoCo)的基准测试,并附带论文中的实验配置与结果复现脚本。项目代码结构清晰,便于研究者扩展和对比实验,解决了传统 RL 算法在复杂连续控制任务中样本利用率低、收敛不稳定的痛点。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 108
维护状态 较活跃
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队THU-BPM
所属国家
官网地址
定价模式free
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型large-language-models,llm,on-policy-distillation,opd,opsd,reinforcement-learning,self-distillation
GitHub 星标★ 108
30天Star增速
HF 下载量
上线时间2026-06-05 00:00:00
最近更新2026-09-18 00:00:00
维护状态较活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数3

使用教程

核心亮点

  • 创新性地将对比自蒸馏引入在线 RL,显著提升样本效率
  • 代码基于 Stable-Baselines3,易于集成和复现实验
  • 提供论文配套的配置和脚本,便于验证结果

不足之处

  • 文档/社区待观察
  • 仅支持连续控制任务,未覆盖离散动作空间

适用场景

  • 连续控制强化学习研究(如 MuJoCo 机器人控制)
  • 需要提升策略稳定性和样本效率的 RL 训练场景
  • 作为对比学习方法在 RL 中的基准测试

替代项目

SAC、TD3、PPO

项目介绍

RLCSD 是模型训练领域的开源项目,由 THU-BPM 开发,是 2026 年新上线的项目。

它收录于模型训练分类,该分类目前共有 522 个项目,GitHub 星标数为 108。

项目保持着较活跃的维护节奏,最近一次代码更新于 2026-09-18。MIT许可证,完全免费,可自行部署使用。

它主要面向的使用场景是:连续控制强化学习研究(如MuJoCo机器人控制)。同类可对比的替代方案包括 SAC、TD3、PPO。

上一篇:LLM-ESR

下一篇:TPA

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 62178 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1286 2026-08-13