LightRFT

用奖励模型驱动微调,让 LLM/VLM 按目标越训越强

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 模型训练 🍴 复刻 12 🐛 待处理 14 👀 关注 2
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 379
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源框架,免费使用

项目预览

LightRFT 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类模型训练
开发团队opendilab
定价模式🏷️完全免费
价格说明开源框架,免费使用
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型dapo,grpo,llm,llm-training,multi-modal,reinforcement-learning,reward-model,rft,vlm
GitHub 星标★ 379
上线时间2025-12-23 00:00:00
代码更新2026-09-07
仓库体积9.5 MB
本站数据更新2026-11-05
维护状态维护中
收录时间2026-09-16
浏览次数2

项目介绍

LightRFT 是一个轻量、高效、支持全模态的强化微调(RFT)框架,核心思路是用奖励模型驱动训练,把强化学习引入大语言模型和多模态模型的微调流程。它解决了传统 SFT 只能模仿、难以优化主观目标的问题,让模型能按人类偏好或任务奖励持续改进。框架内置 DAPO、GRPO 等主流 RL 算法,覆盖 LLM 与 VLM 训练,支持文本、图像等多模态输入,并提供奖励模型集成能力。相比重量级 RLHF 工具链,LightRFT 强调轻量与效率,适合在有限算力下快速实验强化微调,也方便研究者对比不同算法和奖励设计对模型行为的影响。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 379

核心亮点

  • 同时覆盖 LLM 与 VLM 的全模态强化微调,多模态场景可直接复用
  • 内置 DAPO、GRPO 等较新 RL 算法,省去自行实现和调参成本
  • 以奖励模型驱动,支持按偏好或任务指标优化,而非只做模仿学习

不足之处

  • 项目处于早期,文档与示例丰富度有限
  • 社区规模和生态集成尚待成长

适用场景

  • 用奖励模型对 LLM 做偏好对齐与能力强化
  • 对视觉语言模型进行多模态强化微调
  • 在有限算力下对比 DAPO、GRPO 等 RL 算法效果

替代项目

OpenRLHF、TRL、verl

上一篇:burn-onnx

下一篇:regress-lm

同类项目推荐

easevoice-trainer 开源

简单几步,训练你的专属语音克隆模型

EaseVoice Trainer is a simple and user-friendly voice cloning and speech model train···

★ 350 2026-08-09
OntoTune 开源

用本体知识给大模型开小灶,让专业回答更靠谱

[Paper][WWW2025] OntoTune: Ontology-Driven Self-training for Aligning Large Language···

★ 51 2026-08-09
xmtf 开源

多任务微调,让模型学会跨语言举一反三

Crosslingual Generalization through Multitask Finetuning

★ 534 2026-08-09
Agent-FLAN 开源

让大模型学会用工具,微调数据与方法一键搞定

[ACL2024 Findings] Agent-FLAN: Designing Data and Methods of Effective Agent Tuning ···

★ 363 2026-08-09
verbalized-sampling 开源

让LLM输出带概率的多样答案,告别重复文本

Verbalized Sampling, a training-free prompting strategy to mitigate mode collapse in···

★ 817 2026-08-09
gemma-tuner-multimodal 开源

Mac 上直接微调 Gemma 多模态模型,图文音一起训

Fine-tune Gemma 4 and 3n with audio, images and text on Apple Silicon, using PyTorch···

★ 1516 2026-09-16
GRAPE 开源

给图神经网络装上更强的位置编码,提升结构感知能力。

[ICLR 2026] GRAPE: Group Representational Position Encoding (https://arxiv.org/abs/2···

★ 122 2026-08-09
focal-frequency-loss 开源

频域聚焦损失,让生成图像细节更清晰

[ICCV 2021] Focal Frequency Loss for Image Reconstruction and Synthesis

★ 716 2026-08-09
Kiln 开源

一站式搞定 AI 系统开发:从数据标注到微调评估,全流程可视化协作

Build, Evaluate, and Optimize AI Systems. Includes evals, RAG, agents, fine-tuning, ···

★ 5255 2026-08-10