
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 131
核心亮点
- 针对 dLLM 的并行解码优化,显著提升生成吞吐量
- 接口简洁,易于集成到现有扩散模型推理流程
- 研究导向,代码结构清晰,便于二次开发
不足之处
- 项目处于早期,文档和示例相对有限
- 依赖特定 dLLM 架构,通用性待验证
适用场景
- 扩散语言模型的长文本生成加速
- 高并发推理服务中的吞吐量优化
- 学术研究中并行解码策略的验证与对比
替代项目
LLM.int8()、vLLM、Speculative Decoding
同类项目推荐
production-ready-data-science-co···
开源
把 notebook 变成生产级代码,测试、CI/CD、MLOps 全搞定
Transform messy data science notebooks into production-ready code. Examples covering···
denoising_diffusion
开源
用PyTorch Lightning复现DDPM,快速跑通扩散模型训练与生成
Unofficial Implementation of "Denoising Diffusion Probabilistic Models" in PyTorch(L···
shortened-llm
开源
压缩LLM,推理提速,显存减半,生成依旧流畅。
Compressed LLMs for Efficient Text Generation [ICLR'24 Workshop]
ZO-LLM
开源
用零阶优化在低显存下微调大模型,省内存不省效果
[ICML‘24] Official code for the paper "Revisiting Zeroth-Order Optimization for Mem···
DuQuant
开源
双变换打散异常值,低比特量化模型更强
[NeurIPS 2024 Oral] DuQuant: Distributing Outliers via Dual Transformation Makes Str···
FineEnvs
开源
快速搭 LLM 强化学习环境,从定义到训练一条龙
FineEnvs — RL Environments 101: building and scaling RL environments in the age of ···
mixture_of_recursions
开源
让简单 token 提前下班,难 token 多算几轮,省算力不降质
Mixture-of-Recursions: Learning Dynamic Recursive Depths for Adaptive Token-Level Co···
TimeSeriesGAN
开源
用 GAN 生成逼真时间序列,搞定数据增强和异常检测
GANs for Time series analysis (Synthetic data generation, anomaly detection and inte···
vertex-ai-mlops
开源
照着做,就能在 Google Cloud 上跑通生产级 ML 流水线
Google Cloud Platform Vertex AI end-to-end workflows for machine learning operations