DARE

给扩散大模型做对齐和强化训练的开源执行器

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 模型训练 🍴 复刻 7 🐛 待处理 1 👀 关注 3
GitHub ↗
GitHub 星标 ★ 217
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源代码,免费使用

项目预览

DARE 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类模型训练
开发团队yjyddq
定价模式🏷️完全免费
价格说明开源代码,免费使用
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型alignment,block-diffusion-large-language-model,diffusion-language-models,diffusion-large-language-model,dllm,dllm-infra,dllm-rl,dllm-rl-infra,masked-diffusion-large-language-model,reinforcement-learning,rl,verl
GitHub 星标★ 217
上线时间2025-12-01 00:00:00
代码更新2026-10-20
仓库体积154.5 MB
本站数据更新2026-10-28
维护状态较活跃
收录时间2026-10-28
浏览次数0

项目介绍

DARE 是 COLM 2026 论文的官方开源实现,面向扩散大语言模型(dLLM)的对齐与强化学习训练框架。当前主流 RLHF/DPO 工具链基本围绕自回归模型设计,而扩散语言模型在并行解码、块级生成上的特性使传统对齐流程难以直接复用。DARE 提供了一套针对 dLLM 的「对齐 + 强化执行器」:把偏好优化、奖励驱动的强化训练与扩散采样过程打通,支持块扩散(block-diffusion)结构下的训练调度,并配套 dllm-infra 相关基础设施,方便研究者在自有扩散模型上复现论文实验、跑通对齐流水线。项目用 Python 实现,代码量适中,适合作为扩散语言模型后训练研究的起点,而非开箱即用的生产工具。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-28 · 当前星标 ★ 217

核心亮点

  • 针对扩散语言模型的并行解码与块级生成特性设计对齐流程,而非直接套用自回归 RLHF 工具链
  • 同时覆盖偏好对齐与奖励驱动强化训练,提供统一的执行器入口,便于对比不同后训练策略
  • 配套 dllm-infra 基础设施代码,论文实验可复现,适合作为扩散模型后训练的研究基线

不足之处

  • 早期项目,星标与社区规模较小,文档和示例覆盖度有待完善
  • 依赖特定的块扩散模型结构,迁移到其他扩散架构需要额外适配

适用场景

  • 研究扩散语言模型的偏好对齐与强化学习后训练
  • 复现 COLM 2026 DARE 论文实验并做消融对比
  • 为自研 dLLM 搭建从采样到奖励优化的训练流水线

替代项目

trl、verl、LLaMA-Factory

上一篇:parameter-golf

下一篇:Awesome-MLLM-Tuning

同类项目推荐

VLM-R1 开源

用强化学习让视觉模型学会推理,少数据也能提升定位精度。

Solve Visual Understanding with Reinforced VLMs

★ 6045 2026-08-09
FedML 开源

一键跨云调度,轻松搞定分布式与联邦学习

FEDML - The unified and scalable ML library for large-scale distributed training, mo···

★ 4071 2026-08-09
Agent-R1 开源

端到端强化学习,训练出能自主决策的 LLM Agent

Agent-R1: Training Powerful LLM Agents with End-to-End Reinforcement Learning

★ 1708 2026-08-09
CausalPFN 开源

用上下文学习,秒级估算因果效应,告别复杂建模

CausalPFN: Amortized Causal Effect Estimation via In-Context Learning

★ 135 2026-08-09
EasySteer 开源

不重训模型,推理时插拔式控制 LLM 行为

[EMNLP 2026] A Unified Framework for High-Performance and Extensible LLM Steering

★ 312 2026-10-07
zeta 开源

像搭积木一样构建高性能 AI 对话模型

Build high-performance AI models with modular building blocks

★ 604 2026-08-09
DiffusionOPSD 开源

让扩散模型自我蒸馏,少步采样也能生成高质量图像

On-Policy Self-Distillation in Diffusion Models

★ 933 2026-08-29
Primus 开源

在 AMD GPU 上高效训练大模型,开箱即用

A flexible and high-performance training framework designed for large-scale foundati···

★ 136 2026-09-19
MirrorFlow 开源

对话喂出来的数字分身,越聊越像你自己。

从对话数据到训练:数字分身 + 模型蒸馏 From Dialogue Data to Training Closed-Loop: D···

★ 73 2026-08-09