residual-context-diffusion
把丢弃的信号变成推理先验，让扩散大模型更聪明
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 62
核心亮点
- 创新性地利用残差信号，而非简单堆参数，提升推理性能
- 提供完整训练与推理代码，支持自定义数据集和模型适配
- 基于 ICML 2026 论文，方法有理论支撑，实验对比清晰
不足之处
- 文档/社区待观察，项目处于早期，使用门槛较高
- 依赖特定 dLLM 架构，通用性尚未验证
适用场景
- 扩散式大语言模型的推理优化
- 长序列生成任务中的上下文建模
- 研究残差信号在生成模型中的再利用
替代项目
Diffusion-LM、DiffuSeq、D3PM
同类项目推荐
AutoGrad-Engine
开源
600 行纯 C# 从零实现 GPT 训练与推理
A complete GPT language model (training and inference) in ~600 lines of pure C#, zer···
Unified-MoE-Compression
开源
给 MoE 模型瘦身，压缩后推理更快更省内存
The official implementation of the paper "Towards Efficient Mixture of Experts: A Ho···
selfcodealign
开源
让代码模型自己教自己，无需人工标注，自动提升生成质量。
[NeurIPS'24] SelfCodeAlign: Self-Alignment for Code Generation
determined
开源
一键拉起分布式训练，自动调参省心省力
Determined is an open-source machine learning platform that simplifies distributed t···
LoongForge
开源
一套框架，NVIDIA 和昆仑芯通吃，搞定大模型全流程训练
A high-performance framework for training LLMs, VLMs, diffusion, and embodied models···
Model-Optimizer
开源
一站式压缩大模型，导出即加速推理
A unified library of SOTA model optimization techniques like quantization, distillat···
hf_ehr
开源
用 EHR 数据微调 HuggingFace 模型，快速构建医疗预测应用
Training HuggingFace models on EHR data
LLMNodeBed
开源
统一基准，对比LLM节点分类算法，复现ICML论文结果。
[ICML 2025] Official implementation for paper "A Comprehensive Analysis on LLM-based···
gorilla
开源
让大模型学会精准调用API，连接真实世界工具
Gorilla: Training and Evaluating LLMs for Function Calls (Tool Calls)