dParallel

让扩散语言模型并行解码,推理速度翻倍

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 4 🐛 待处理 4
GitHub ↗
GitHub 星标 ★ 68
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,可自行部署使用。

项目预览

dParallel 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队czg1225
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型acceleration,diffusion-language-models,distillation,efficiency,few-step,large-language-models,parallel-decoding
GitHub 星标★ 68
上线时间2025-09-28 00:00:00
代码更新2026-04-12
仓库体积22.5 MB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数7

项目介绍

dParallel 是一个面向扩散大语言模型(dLLMs)的可学习并行解码框架,论文被 ICLR 2026 接收。它解决扩散模型在文本生成时因迭代式去噪导致推理速度慢的问题,通过引入可学习的并行解码机制,在保持生成质量的同时显著加速推理。核心能力包括:端到端可训练的并行解码模块、与现有 dLLM 架构无缝集成、支持多步去噪过程的并行化。项目提供 Python 实现,包含训练和推理代码,适合研究者和工程师用于加速基于扩散的文本生成模型。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 68

核心亮点

  • 提出可学习并行解码机制,直接针对扩散模型推理慢的痛点
  • 基于 ICLR 2026 论文,理论方法有学术背书
  • 代码结构清晰,易于集成到现有 dLLM 项目

不足之处

  • 项目处于早期,文档和社区支持待观察
  • 仅支持扩散类 LLM,适用面较窄

适用场景

  • 加速扩散语言模型的文本生成推理
  • 研究并行解码算法在生成模型中的应用
  • 作为 dLLM 推理优化的参考实现

替代项目

Diffusion-LM、LLM-diffusion、Parallel decoding for autoregressive models

上一篇:GuidedQuant

下一篇:Spatial-SSRL

同类项目推荐

examples 开源

看示例,快速上手 Neptune 实验管理

Examples of how to use Neptune for different use cases and with various MLOps tools

★ 86 2026-08-09
olmoearth_pretrain 开源

用卫星数据预训练地球基础模型,开箱即用

Earth system foundation model data, training, and eval

★ 366 2026-09-14
CICD-for-Machine-Learning 开源

用GitHub Actions一键跑通模型训练到部署全流程

A beginner's project on automating the training, evaluation, versioning, and deploym···

★ 123 2026-08-09
whisper-vits-japanese 开源

只有音频也能训练日语VITS,Whisper自动生成文本标注

Vits Japanese with Whisper as data processor (you can train your VITS even you only ···

★ 161 2026-08-09
awesome-on-policy-distillation 开源

一页看全 LLM 在线蒸馏论文与工具,省去到处翻找

A curated collection of papers, technical reports, frameworks, and tools for on-poli···

★ 912 2026-09-15
reevo 开源

让大模型自动进化出高效启发式规则,解决优化难题

[NeurIPS 2024] ReEvo: Large Language Models as Hyper-Heuristics with Reflective Evol···

★ 309 2026-08-09
Kardia-R1 开源

让AI学会共情,用强化学习提升情感支持回复质量

[WWW] Kardia-R1: Unleashing LLMs to Reason toward Understanding and Empathy for Emot···

★ 60 2026-08-09
higgsfield 开源

让万亿参数模型训练不再怕GPU故障,自动容错编排

Fault-tolerant, highly scalable GPU orchestration, and a machine learning framework ···

★ 6307 2026-08-09
MLM_Filter 开源

用多模态模型自动筛出高质量图文对,提升训练数据纯净度

Official implementation of our paper "Finetuned Multimodal Language Models are High-···

★ 71 2026-08-09