dFactory

几行代码微调扩散语言模型,省显存快验证

dFactory 是一个面向扩散大模型(dLLM)的轻量微调框架,目标是让开发者用简单几行代码就能完成扩散语言模型的训练与适配。扩散语言模型与传统自回归模型在训练目标、噪声调度和采样方式上差异很大,现有微调工具大多只支持 GPT 类模型,dFactory 填补了这一空白。它封装了数据加载、噪声时间步采样、损失计算和分布式训练流程,提供统一配置接口,支持 LoRA 等参数高效微调方式,降低显存占用。项目用 Python 编写,依赖主流深度学习生态,适合研究者和工程团队快速验证 dLLM 在下游任务上的效果,例如文本生成、条件补全和领域适配。整体定位是实验友好、上手门槛低,而非追求大规模生产级训练平台。

开源 free 模型训练
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 270
维护状态 较活跃
是否开源 是
定价模式 free

项目数据

分类模型训练
开发团队inclusionAI
所属国家
定价模式free
价格说明开源免费,需自行部署
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型
GitHub 星标★ 270
30天Star增速
HF 下载量
上线时间2025-11-05 00:00:00
最近更新2026-09-19 00:00:00
维护状态较活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-09-29
浏览次数0

使用教程

核心亮点

  • 针对扩散语言模型设计,填补主流微调框架不支持 dLLM 的空白
  • 封装噪声调度与训练循环,配置化接口降低上手成本
  • 支持 LoRA 等参数高效微调,显存占用低,适合单卡实验

不足之处

  • 项目处于早期,星标仅 270,生态与文档完善度有限
  • 缺少大规模分布式训练与生产部署的成熟方案

适用场景

  • 研究者快速验证扩散语言模型在特定语料上的微调效果
  • 个人开发者用单张消费级显卡做 dLLM 领域适配实验
  • 团队对比 dLLM 与自回归模型在同一任务上的生成质量

替代项目

LLaMA-Factory、PEFT、trl

项目介绍

dFactory 是模型训练领域的开源项目,由 inclusionAI 开发,2025 年首次发布。

它收录于模型训练分类,该分类目前共有 530 个项目,GitHub 星标数为 270。

项目保持着较活跃的维护节奏,最近一次代码更新于 2026-09-19。开源免费,需自行部署。

它主要面向的使用场景是:研究者快速验证扩散语言模型在特定语料上的微调效果。同类可对比的替代方案包括 LLaMA-Factory、PEFT、trl。

上一篇:WorldDistill

下一篇:lora-speedrun

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 62652 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1298 2026-08-13