JacobiForcing

让模型生成快数倍，质量不打折的并行解码新方案

JacobiForcing 是一个面向扩散式解码（diffusion-style decoding）的高效推理加速方法，由 ICML 2026 论文提出。它针对自回归生成模型逐 token 生成速度慢的问题，引入 Jacobi 迭代与强制解码（forcing）机制，在保持生成质量的同时显著减少解码步数。项目提供了完整的训练与推理代码，支持多种主流模型架构，通过并行化 token 预测和动态收敛判断，实现比传统自回归解码更快的生成速度，同时保证输出准确率。核心能力包括：基于 Jacobi 迭代的并行解码算法、与现有模型无缝集成的接口、以及针对不同任务（如文本生成、代码补全）的优化策略。该项目适合需要低延迟生成的应用场景，为扩散式解码在工业界的落地提供了高效、易用的开源实现。