easydistill

一键蒸馏大模型，小模型也能拥有大智慧

easydistill 是一个面向大语言模型的知识蒸馏工具包，旨在简化将大型教师模型（如 GPT-4、Llama 等）的知识迁移到小型学生模型的过程。它解决了 LLM 蒸馏流程复杂、配置繁琐、难以快速上手的问题，提供了一套模块化、可扩展的 API，支持数据准备、蒸馏策略选择、训练与评估的端到端流水线。核心能力包括：支持多种蒸馏方法（如黑盒蒸馏、白盒蒸馏）、灵活的教师-学生模型配置、自动数据增强与筛选、以及基于 Hugging Face Transformers 的深度集成。用户可以通过简单的命令行或 Python 接口，快速启动蒸馏实验，并监控训练指标。项目处于早期阶段，但设计清晰，适合研究者和工程师用于模型压缩、部署加速或领域适配。

开源 free 开源模型

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 477

维护状态维护中

是否开源是

定价模式 free

项目数据

分类开源模型

开发团队modelscope

所属国家

官网地址

GitHubhttps://github.com/modelscope/easydistill

定价模式free

价格说明开源工具包，Apache-2.0许可，完全免费，无付费版本。

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型knowledge-distillation,large-language-models

GitHub 星标★ 477

30天Star增速

HF 下载量

上线时间2025-05-27 00:00:00

最近更新2026-09-23 00:00:00

维护状态维护中

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数2

使用教程

核心亮点

提供统一 API，覆盖数据、训练、评估全流程，降低蒸馏入门门槛
内置多种蒸馏策略（黑盒/白盒），适应不同场景需求
与 Hugging Face 生态深度集成，支持主流模型架构

不足之处

文档/社区待观察
早期项目，功能覆盖可能不全面，稳定性待验证

适用场景

将大型 LLM 压缩为可部署的小型模型，降低推理成本
在特定领域用教师模型蒸馏出专精学生模型，提升垂直任务效果
快速对比不同蒸馏策略效果，用于研究实验

替代项目

Textbooks Are All You Need、DistilBERT、MiniLLM

项目介绍

easydistill 是模型训练领域的开源项目，由 modelscope 开发，2025 年首次发布。

它收录于模型训练分类，该分类目前共有 522 个项目，GitHub 星标数为 477。

项目仍在小幅维护中，最近一次代码更新于 2026-09-23。Apache-2.0许可，完全免费，无付费版本。

它主要面向的使用场景是：将大型LLM压缩为可部署的小型模型，降低推理成本。同类可对比的替代方案包括 Textbooks Are All You Need、DistilBERT、MiniLLM。

上一篇：LLM-PowerHouse-A-Curated-Guide-for-Large-Language-Models-with-Custom-Training-and-Inferenc

下一篇：Kardia-R1