Medusa

给大模型加几个解码头，生成速度翻倍，不用改架构

Medusa是一个用于加速大语言模型生成的轻量级框架，核心思路是在原始模型基础上添加多个解码头（decoding heads），每个头并行预测后续多个token，从而在一次前向传播中生成多个token，显著减少推理步骤。它无需修改现有模型架构，通过微调少量额外参数即可适配主流LLM，支持与Hugging Face Transformers无缝集成。Medusa解决了自回归生成中逐token解码带来的高延迟问题，适用于需要低延迟响应的实时交互场景，如聊天机器人、代码补全等。其核心能力包括多token并行预测、灵活的微调流程、以及推理时的动态树状解码策略，能在保持输出质量的同时实现2-3倍的加速效果。

开源 free 开源模型

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 2773

维护状态低维护

是否开源是

定价模式 free

项目数据

分类开源模型

开发团队FasterDecoding

所属国家

官网地址https://sites.google.com/view/medusa-llm

GitHubhttps://github.com/FasterDecoding/Medusa

定价模式free

价格说明开源框架，Apache-2.0许可证，完全免费，可自行部署使用。

访问状态

是否开源是

开源协议Apache-2.0

主要语言Jupyter Notebook

技术栈/模型llm,llm-inference

GitHub 星标★ 2773

30天Star增速

HF 下载量

上线时间2023-09-10 00:00:00

最近更新2026-09-18 00:00:00

维护状态低维护

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数3

使用教程

难度：进阶约 30 分钟部署方式：库/依赖 6 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

Python 运行环境（README 节选中未给出具体版本要求）
Git，用于克隆 GitHub 仓库
可运行 LLM 推理的算力环境（如 GPU，README 节选未明确）
Hugging Face 上的基础大模型权重（项目信息提到与 Transformers 集成）

安装与启动步骤

1克隆仓库

从 GitHub 拉取 Medusa 源码到本地，后续安装与示例都在该目录内进行。
```
git clone https://github.com/FasterDecoding/Medusa.git
```
2进入项目目录

切换到克隆下来的仓库根目录，后续命令都在此目录执行。
```
cd Medusa
```
3创建虚拟环境

建议用独立 Python 环境隔离依赖，避免污染系统环境；README 节选未给出具体版本要求。
```
python -m venv medusa-env
source medusa-env/bin/activate
```
4查看安装说明

README 中有 Installation 章节，请按该章节给出的官方命令安装依赖，节选未包含其正文。
5准备模型权重

从 Hugging Face 下载需要加速的基础模型（README 以 Vicuna-7b 演示），Medusa 在此基础上加解码头。
6运行示例

项目以 Jupyter Notebook 为主要开发形式，启动后打开仓库内的 notebook 按顺序执行。
```
jupyter notebook
```

如何确认成功

按仓库 README Installation 章节的示例脚本运行，能正常加载模型并生成文本即视为成功。

常见问题

Q：需要修改原始模型结构吗？

A：不需要。Medusa 在原始模型上添加多个解码头，原模型保持不变，训练时只微调新增的头参数。

Q：必须自己训练解码头吗？

A：需要。README 提到 Medusa-2 全模型训练方案和 self-distillation，可为任意微调过的 LLM 添加 Medusa。

Q：加速效果如何？

A：据 2024/01 技术报告，在一系列 LLM 上相比原模型可获得 2.2-3.6 倍加速。

Q：具体安装命令是什么？

A：README 含 Installation 章节，但本次节选未包含其正文，请到 GitHub 仓库查看最新完整说明。

注意事项

本教程依据 README 节选整理，Installation 章节正文缺失，实际命令请以仓库最新 README 为准。
项目开发语言为 Jupyter Notebook，大量示例可能以 notebook 形式提供。
训练或微调解码头需要额外算力，建议先确认硬件资源是否充足。

核心亮点

无需修改原始模型，只训练轻量解码头，适配成本低
推理时动态构建解码树，加速效果显著（2-3倍）
与Hugging Face生态无缝集成，开箱即用

不足之处

需要针对每个模型单独训练解码头，增加了额外训练成本
文档/社区待观察

适用场景

实时聊天机器人降低响应延迟
代码生成工具提升补全速度
边缘设备上部署LLM减少计算开销

替代项目

Speculative Decoding、Blockwise Parallel Decoding、Lookahead Decoding

项目介绍

Medusa 是模型训练领域的开源项目，由 FasterDecoding 开发，2023 年首次发布。

在全站 13,090 个收录项目中，它的 GitHub 星标数（2,773）位列前 30%，在模型训练分类中处于中上游。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-18。Apache-2.0许可证，完全免费，可自行部署使用。

它主要面向的使用场景是：实时聊天机器人降低响应延迟。同类可对比的替代方案包括 Speculative Decoding、Blockwise Parallel Decoding、Lookahead Decoding。

上一篇：Alpaca-CoT

下一篇：LongLoRA