LightReasoner

用小模型教大模型推理，低成本提升推理能力

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 35 🐛 待处理 10 👀 关注 7

GitHub ↗

GitHub 星标 ★ 615

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源模型，MIT许可证，完全免费，可自行部署使用。

项目预览

LightReasoner 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类开源模型

开发团队HKUDS

GitHubhttps://github.com/HKUDS/LightReasoner

定价模式🏷️完全免费

价格说明开源模型，MIT许可证，完全免费，可自行部署使用。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议MIT

主要语言Python

技术栈/模型large-language-models,post-training,reasoning-models,token-efficiency

GitHub 星标★ 615

上线时间2025-09-29 00:00:00

代码更新2026-05-22

仓库体积34.3 MB

本站数据更新2026-11-10

维护状态低维护

收录时间2026-08-09

浏览次数9

项目介绍

LightReasoner 是一个源自 ACL 2026 Oral 论文的开源项目，核心研究问题是“小语言模型能否教会大语言模型推理”。它通过让小型语言模型生成推理轨迹，并利用这些数据来微调或引导大型语言模型，从而提升大模型的推理能力。项目提供了一套完整的训练和推理流程，包括数据生成、模型微调、评估等模块，支持多种小模型和大模型的组合。其核心能力在于探索一种低成本的推理增强路径，即利用小模型的轻量级推理能力，通过知识蒸馏或数据增强的方式，将推理能力迁移到大模型上，从而降低大模型在推理任务上的训练和推理成本。项目代码基于 Python 实现，目前处于早期阶段，但已获得一定关注。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 615

技术标签

large-language-models post-training

使用教程

难度：高级约 120 分钟部署方式：本地GPU 5 步

环境要求

GPU 24G 显存以上
两个规模的基座模型
数学推理数据

安装与启动步骤

1克隆装依赖

训练链路较长，先把环境弄干净。
```
git clone https://github.com/HKUDS/LightReasoner.git
```
2下两个模型

小模型当老师，大模型当学生，两个都要备。
```
huggingface-cli download Qwen/Qwen2.5-Math-1.5B --local-dir ./Qwen2.5-Math-1.5B
```
3准备数据

脚本会拉数学题集并做格式转换。
```
python data_prep.py
```
4采对比样本

让大小模型对同一题各答一次，差异样本才是训练信号。
```
python LightR_sampling.py --max_questions 1000
```
5微调并合并

训完要合并权重才能直接推理。
```
python LightR_finetuning.py
```