dFactory

几行代码微调扩散语言模型,省显存快验证

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 模型训练 🍴 复刻 20 🐛 待处理 9 👀 关注 2
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 272
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,需自行部署

项目预览

dFactory 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类模型训练
开发团队inclusionAI
定价模式🏷️完全免费
价格说明开源免费,需自行部署
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
GitHub 星标★ 272
上线时间2025-11-05 00:00:00
代码更新2026-10-16
仓库体积6.0 MB
本站数据更新2026-11-12
维护状态较活跃
收录时间2026-09-29
浏览次数2

项目介绍

dFactory 是一个面向扩散大模型(dLLM)的轻量微调框架,目标是让开发者用简单几行代码就能完成扩散语言模型的训练与适配。扩散语言模型与传统自回归模型在训练目标、噪声调度和采样方式上差异很大,现有微调工具大多只支持 GPT 类模型,dFactory 填补了这一空白。它封装了数据加载、噪声时间步采样、损失计算和分布式训练流程,提供统一配置接口,支持 LoRA 等参数高效微调方式,降低显存占用。项目用 Python 编写,依赖主流深度学习生态,适合研究者和工程团队快速验证 dLLM 在下游任务上的效果,例如文本生成、条件补全和领域适配。整体定位是实验友好、上手门槛低,而非追求大规模生产级训练平台。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-29 · 当前星标 ★ 272

核心亮点

  • 针对扩散语言模型设计,填补主流微调框架不支持 dLLM 的空白
  • 封装噪声调度与训练循环,配置化接口降低上手成本
  • 支持 LoRA 等参数高效微调,显存占用低,适合单卡实验

不足之处

  • 项目处于早期,星标仅 270,生态与文档完善度有限
  • 缺少大规模分布式训练与生产部署的成熟方案

适用场景

  • 研究者快速验证扩散语言模型在特定语料上的微调效果
  • 个人开发者用单张消费级显卡做 dLLM 领域适配实验
  • 团队对比 dLLM 与自回归模型在同一任务上的生成质量

替代项目

LLaMA-Factory、PEFT、trl

上一篇:WorldDistill

下一篇:lora-speedrun

同类项目推荐

MLOps 开源

跟着项目清单,动手练熟MLOps全流程

The repository contains a list of projects which I will work on while learning and i···

★ 79 2026-08-09
merge-models 开源

按比例融合两个扩散模型,快速生成新风格模型

Merges two latent diffusion models at a user-defined ratio

★ 262 2026-08-09
LeapAlign_Code 开源

任意步数生成高质量图像,让流匹配模型又快又好。

[CVPR2026] LeapAlign: Post-Training Flow Matching Models at Any Generation Step by B···

★ 61 2026-08-09
DARE 开源

给扩散大模型做对齐和强化训练的开源执行器

[COLM 2026] Official repository of DARE: Diffusion Large Language Models Alignment a···

★ 217 2026-10-28
DiffusionART 开源

给扩散模型做稳定高效的强化学习后训练

Official Implementation of "DiffusionART: Efficient, Stable and Scalable Reinforceme···

★ 230 2026-10-21
JAFAR 开源

任意分辨率下提升特征,无需重训模型

[NeurIPS 2025] Official code for JAFAR: Jack up Any Feature at Any Resolution

★ 241 2026-08-09
DoLa 开源

不重训模型,对比层输出,让大模型少说瞎话。

Official implementation for the paper "DoLa: Decoding by Contrasting Layers Improves···

★ 563 2026-08-09
catalyst 开源

让深度学习实验跑得更快、更规范,专注模型创新

Accelerated deep learning R&D

★ 3389 2026-08-10
LLMs-from-scratch 开源

手把手从零造出 ChatGPT,原理代码一次搞懂

Implement a ChatGPT-like LLM in PyTorch from scratch, step by step

★ 108298 2026-08-09