一站式速览在线策略蒸馏，紧跟LLM前沿
AwesomeOPD 是一个关于在线策略蒸馏（On-Policy Distillation）的精选资源列表，专注于大语言模型（LLM）领域的知识蒸馏技术。该项目系统整理了相关论文、代码、博客等资料，帮助研究者和工程师快速了解在线策略蒸馏的前沿进展、核心方法和应用实践。它解决了该领域信息分散、入门门槛高的问题，通过分类汇总和持续更新，为用户提供了一条清晰的学习路径。核心能力包括：按主题和年份组织论文列表，提供代码链接和简要说明，并覆盖了从基础理论到最新研究的广泛内容。对于希望将大型教师模型的知识高效迁移到小型学生模型、降低推理成本或进行模型压缩的开发者，这是一个实用的导航工具。
Awesome-LLM、Awesome-Distillation、Awesome-Knowledge-Distillation
AwesomeOPD 是模型训练领域的开源项目，由 thinkwee 开发，是 2026 年新上线的项目。
在全站 13,090 个收录项目中，它的 GitHub 星标数（869）位列前 30%，在模型训练分类中处于中上游。
项目目前处于活跃维护状态，最近一次代码更新于 2026-09-23。完全免费，无在线服务，需自行部署。
它主要面向的使用场景是：研究在线策略蒸馏方向时快速调研文献。同类可对比的替代方案包括 Awesome-LLM、Awesome-Distillation、Awesome-Knowledge-Distillation。
上一篇：LyCORIS
Long-RL
开源
让强化学习轻松驾驭超长序列，训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性，长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型，练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型，推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···
