Awesome-LLM-Post-training

一站式掌握大模型后训练,从微调到推理增强

Awesome-LLM-Post-training 是一个聚焦大语言模型后训练(Post-training)阶段的开源教程、综述与指南合集。它系统梳理了从预训练完成后的指令微调、人类反馈对齐(RLHF/DPO)、推理能力增强(如思维链、自我修正)到长上下文扩展等关键环节的论文、代码库和工程实践。项目解决了后训练领域知识分散、入门门槛高的问题,为研究者和工程师提供了一条从理论到落地的结构化学习路径。核心能力包括:按主题分类的精选资源索引、覆盖最新推理模型(如 o1 类)的技术解析、以及配套的代码示例与工具链推荐。无论是想快速了解后训练全貌,还是深入某个具体技术点,都能在此找到高质量参考。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 2561
维护状态 较活跃
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队mbzuai-oryx
所属国家
官网地址
定价模式free
价格说明开源项目,完全免费,无付费版本。
访问状态
是否开源是
开源协议
主要语言Python
技术栈/模型fine,large-language-models,post-training,reasoning,reinforcement-learning,scaling
GitHub 星标★ 2561
30天Star增速
HF 下载量
上线时间2025-02-13 00:00:00
最近更新2026-09-23 00:00:00
维护状态较活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数4

使用教程

难度:入门 约 5 分钟 部署方式:本地安装 5 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • Git 命令行工具(用于克隆仓库)
  • 可访问 GitHub 的网络环境
  • Markdown 阅读器或浏览器(查看 README 资源清单)
  • 可选:PDF 阅读器(阅读 arXiv 综述论文)

安装与启动步骤

  1. 1克隆资源仓库

    把仓库拉到本地,README 明确说明这是论文与代码实现的精选合集,仓库本身无需编译。

    git clone https://github.com/mbzuai-oryx/Awesome-LLM-Post-training.git
  2. 2进入项目目录

    切换到克隆下来的目录,随后可查看其中的 Markdown 资源清单。

    cd Awesome-LLM-Post-training
  3. 3查看目录内容

    列出仓库文件,确认 README 及各主题资源文件存在,README 未提供安装脚本。

    ls
  4. 4阅读综述论文

    README 给出论文 arXiv 编号 2502.21321,可在浏览器打开 PDF 系统了解后训练全貌。

  5. 5按主题查阅资源

    在 README 中按指令微调、RLHF/DPO、推理增强、长上下文等主题定位论文与代码库链接。

如何确认成功

本地目录中出现 Awesome-LLM-Post-training 文件夹,打开 README.md 能看到论文列表与 arXiv 2502.21321 链接即为成功。

常见问题

Q:需要 pip install 安装依赖吗?

A:不需要。README 未给出任何安装命令,该仓库是论文、代码实现与基准的索引合集,没有需要安装的包。

Q:仓库里有可直接运行的训练代码吗?

A:没有。README 说明收集的是相关 code implementations 的链接,具体代码需跳转到各论文的官方仓库获取。

Q:综述论文在哪里看?

A:README 提供了 arXiv 编号 2502.21321 的 PDF 链接,同时说明该综述已被 IEEE TPAMI 接收。

Q:克隆很慢或不成功怎么办?

A:README 未提供镜像或替代下载方式,可检查网络是否能访问 GitHub,或改用 GitHub 网页端下载 ZIP 包。

注意事项

  • README 节选只包含项目介绍与论文信息,未提供安装、配置或运行命令,本教程仅覆盖资源获取与阅读。
  • 命令中的仓库地址来自项目 GitHub 地址,目录名按仓库名推断。
  • 若只想查阅资料,可直接在 GitHub 网页浏览,无需本地克隆。
  • 综述论文已被 IEEE TPAMI 接收,引用时请参考 README 中的作者与出处信息。

核心亮点

  • 资源分类清晰,覆盖指令微调、对齐、推理增强等全链路,便于按需查阅
  • 紧跟前沿,包含 o1 类推理模型的技术解析,时效性强
  • 提供代码示例与工具链推荐,能直接落地到工程实践

不足之处

  • 文档/社区待观察
  • 部分资源链接可能随时间失效,需维护者持续更新

适用场景

  • 研究者快速调研后训练领域最新进展
  • 工程师实施模型微调与对齐优化
  • 教学培训中作为大模型进阶课程大纲

替代项目

Awesome-LLM、LLM Course (Hugging Face)、Awesome-LLM-Reasoning

项目介绍

Awesome-LLM-Post-training 是模型训练领域的开源项目,由 mbzuai-oryx 开发,2025 年首次发布。

在全站 13,090 个收录项目中,它的 GitHub 星标数(2,561)位列前 30%,在模型训练分类中处于中上游。

近 42 天,它的 GitHub 星标从 2,510 增加到 2,561,净增 51。

项目保持着较活跃的维护节奏,最近一次代码更新于 2026-09-23。完全免费,无付费版本。

它主要面向的使用场景是:研究者快速调研后训练领域最新进展。同类可对比的替代方案包括 Awesome-LLM、LLM Course (Hugging Face)、Awesome-LLM-Reasoning。

上一篇:JetSpec

下一篇:OnlineSPEC

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 62178 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1286 2026-08-13