DMax

让扩散大模型生成提速,并行解码不再卡顿

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 9 🐛 待处理 2 👀 关注 1
GitHub ↗
GitHub 星标 ★ 131
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0许可证,可自由使用,无付费版本。

项目预览

DMax 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队czg1225
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0许可证,可自由使用,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型acceleration,diffusion-language-models,efficiency,large-language-models,multi-token-prediction,parallel-decoding
GitHub 星标★ 131
上线时间2026-04-08 00:00:00
代码更新2026-09-28
仓库体积3.3 MB
本站数据更新2026-11-07
维护状态维护中
收录时间2026-08-09
浏览次数12

项目介绍

DMax 是一个针对扩散大语言模型(dLLMs)的激进并行解码加速框架。扩散模型通过迭代去噪生成文本,与传统自回归模型相比具有并行生成潜力,但现有解码策略往往无法充分利用这一特性,导致生成速度受限。DMax 通过优化并行解码路径,在保证生成质量的同时大幅提升解码吞吐量,解决 dLLMs 在实际应用中推理速度慢的痛点。其核心能力包括:动态调整并行解码步数、智能调度去噪过程、以及高效的 token 级并行策略,使得模型在长文本生成和高并发场景下表现更优。项目提供简洁的 Python 接口,便于集成到现有 dLLM 推理流程中,适合研究者和工程师用于加速扩散模型的实际部署。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 131

核心亮点

  • 针对 dLLM 的并行解码优化,显著提升生成吞吐量
  • 接口简洁,易于集成到现有扩散模型推理流程
  • 研究导向,代码结构清晰,便于二次开发

不足之处

  • 项目处于早期,文档和示例相对有限
  • 依赖特定 dLLM 架构,通用性待验证

适用场景

  • 扩散语言模型的长文本生成加速
  • 高并发推理服务中的吞吐量优化
  • 学术研究中并行解码策略的验证与对比

替代项目

LLM.int8()、vLLM、Speculative Decoding

上一篇:RandOpt

下一篇:RPG

同类项目推荐

denoising_diffusion 开源

用PyTorch Lightning复现DDPM,快速跑通扩散模型训练与生成

Unofficial Implementation of "Denoising Diffusion Probabilistic Models" in PyTorch(L···

★ 91 2026-08-09
shortened-llm 开源

压缩LLM,推理提速,显存减半,生成依旧流畅。

Compressed LLMs for Efficient Text Generation [ICLR'24 Workshop]

★ 91 2026-08-09
ZO-LLM 开源

用零阶优化在低显存下微调大模型,省内存不省效果

[ICML‘24] Official code for the paper "Revisiting Zeroth-Order Optimization for Mem···

★ 131 2026-08-09
DuQuant 开源

双变换打散异常值,低比特量化模型更强

[NeurIPS 2024 Oral] DuQuant: Distributing Outliers via Dual Transformation Makes Str···

★ 189 2026-08-09
FineEnvs 开源

快速搭 LLM 强化学习环境,从定义到训练一条龙

FineEnvs — RL Environments 101: building and scaling RL environments in the age of ···

★ 549 2026-09-27
mixture_of_recursions 开源

让简单 token 提前下班,难 token 多算几轮,省算力不降质

Mixture-of-Recursions: Learning Dynamic Recursive Depths for Adaptive Token-Level Co···

★ 649 2026-09-22
TimeSeriesGAN 开源

用 GAN 生成逼真时间序列,搞定数据增强和异常检测

GANs for Time series analysis (Synthetic data generation, anomaly detection and inte···

★ 70 2026-08-09
vertex-ai-mlops 开源

照着做,就能在 Google Cloud 上跑通生产级 ML 流水线

Google Cloud Platform Vertex AI end-to-end workflows for machine learning operations

★ 720 2026-08-09