项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 219
核心亮点
- 减少推理时显式思维链的token开销，显著降低延迟和成本
- 隐式推理避免暴露中间步骤，增强隐私保护
- 基于ICLR 2026论文，方法有理论支撑，代码结构清晰
不足之处
- 早期项目，文档和社区生态待观察
- 隐式推理的可解释性较差，难以调试和验证中间过程
适用场景
- 低延迟实时推理场景，如聊天机器人、智能客服
- 资源受限环境，如移动端或边缘设备上的模型部署
- 对推理过程隐私敏感的应用，如医疗或金融分析
替代项目
Chain-of-Thought (CoT)、Self-Consistency、Tree of Thoughts (ToT)
上一篇：Time-R1
下一篇：GuidedQuant
同类项目推荐
LLMEmb
开源
让大模型嵌入更精准，提升检索与语义匹配效果
[AAAI'25 Oral] The official implementation code of LLMEmb
ReaLHF
开源
重新分配参数，让 RLHF 训练更快更省资源
Super-Efficient RLHF Training of LLMs with Parameter Reallocation
diffusion_distiller
开源
把扩散模型蒸馏成少步采样，生成速度提升数倍
PyTorch Implementation of "Progressive Distillation for Fast Sampling of Diffusion M···
Prism
开源
动态稀疏注意力，让2K音视频生成模型原生训练更省算力
We propose Prism, a dynamic sparse attention framework for natively training joint v···
doc-to-lora
开源
让大模型随时记住新知识，不用重训
Hypernetworks that update LLMs to remember factual information
Fizgig
开源
一站式训练、剖析、修复和提取 Krea 2 与 Flux 2 的 LoRA/LoKR
Fizgig — LoRA & Fine-tune Studio for Klein 9B, Krea 2, MiniMax H3, Qwen Image 2.1, ···
SoftCoT
开源
用软思维链替代文本推理，大幅降低 LLM 推理成本
ACL'2025: SoftCoT: Soft Chain-of-Thought for Efficient Reasoning with LLMs. and prep···
ao
开源
PyTorch 原生量化，训练推理一起提速省显存
PyTorch native quantization for training and inference
maxtext
开源
用 JAX 快速训练和扩展超大规模语言模型
A simple, performant, and scalable Jax LLM!