DART 是模型训练领域的开源项目，由 fvliang 开发，是 2026 年新上线的项目。
它收录于模型训练分类，该分类目前共有 518 个项目，GitHub 星标数为 71。
项目保持着较活跃的维护节奏，最近一次代码更新于 2026-09-09。Apache-2.0许可证，可免费使用和部署。
它主要面向的使用场景是：大模型在线服务需要降低推理延迟的场景。同类可对比的替代方案包括 Medusa、EAGLE、Lookahead Decoding。
DART
扩散式推测解码，让大模型推理更快更省算力
DART 是一个旨在加速大语言模型推理的推测解码（Speculative Decoding）方法的官方实现。它受扩散模型启发，通过引入一种新的采样与验证机制，在保持生成质量的同时，显著减少推理所需的步数，从而提升 LLM 的响应速度。DART 解决了传统自回归生成中逐 token 解码效率低下的问题，其核心能力包括：高效的草稿-验证并行解码、与现有 LLM 无缝集成、以及提供简洁的 Python 接口。该项目目前处于早期阶段，代码结构清晰，适合研究者和工程师探索并应用于实际推理加速场景。
开源
free
开源模型
GitHub 星标
★ 71
维护状态
较活跃
是否开源
是
定价模式
free
项目数据
分类开源模型
开发团队fvliang
所属国家
定价模式free
价格说明开源项目，Apache-2.0许可证，可免费使用和部署。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型large-language-models,llm-inference,speculative-decoding
GitHub 星标★ 71
30天Star增速
HF 下载量
上线时间2026-01-26 00:00:00
最近更新2026-09-09 00:00:00
维护状态较活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数5
使用教程
核心亮点
- 创新性地将扩散思想融入推测解码，为加速 LLM 推理提供新思路
- 官方实现，代码质量有保障，便于复现和二次开发
- 支持与主流 LLM 集成，可灵活应用于不同模型
不足之处
- 项目处于早期，文档和社区支持尚不完善
- 性能提升效果依赖具体模型和任务，需自行验证
适用场景
- 大模型在线服务需要降低推理延迟的场景
- 资源受限环境下部署 LLM 并希望提升吞吐量
- 研究推测解码算法及其与扩散模型结合的学术探索
替代项目
Medusa、EAGLE、Lookahead Decoding
项目介绍
同类项目推荐
Long-RL
开源
让强化学习轻松驾驭超长序列，训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性，长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型，练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型，推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···