Medusa

给大模型加几个解码头，生成速度翻倍，不用改架构

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 206 🐛 待处理 57 👀 关注 29

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 2774

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源框架，Apache-2.0许可证，完全免费，可自行部署使用。

项目预览

项目数据

分类开源模型

开发团队FasterDecoding

官网地址https://sites.google.com/view/medusa-llm

GitHubhttps://github.com/FasterDecoding/Medusa

定价模式🏷️完全免费

价格说明开源框架，Apache-2.0许可证，完全免费，可自行部署使用。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Jupyter Notebook

技术栈/模型llm,llm-inference

GitHub 星标★ 2774

上线时间2023-09-10 00:00:00

代码更新2024-06-25

仓库体积4.9 MB

本站数据更新2026-11-09

维护状态低维护

收录时间2026-08-09

浏览次数4

项目介绍

Medusa是一个用于加速大语言模型生成的轻量级框架，核心思路是在原始模型基础上添加多个解码头（decoding heads），每个头并行预测后续多个token，从而在一次前向传播中生成多个token，显著减少推理步骤。它无需修改现有模型架构，通过微调少量额外参数即可适配主流LLM，支持与Hugging Face Transformers无缝集成。Medusa解决了自回归生成中逐token解码带来的高延迟问题，适用于需要低延迟响应的实时交互场景，如聊天机器人、代码补全等。其核心能力包括多token并行预测、灵活的微调流程、以及推理时的动态树状解码策略，能在保持输出质量的同时实现2-3倍的加速效果。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 2774

技术标签

llm llm-inference

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：进阶约 30 分钟部署方式：库/依赖 6 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

Python 运行环境（README 节选中未给出具体版本要求）
Git，用于克隆 GitHub 仓库
可运行 LLM 推理的算力环境（如 GPU，README 节选未明确）
Hugging Face 上的基础大模型权重（项目信息提到与 Transformers 集成）

安装与启动步骤

1克隆仓库

从 GitHub 拉取 Medusa 源码到本地，后续安装与示例都在该目录内进行。
```
git clone https://github.com/FasterDecoding/Medusa.git
```
2进入项目目录

切换到克隆下来的仓库根目录，后续命令都在此目录执行。
```
cd Medusa
```
3创建虚拟环境

建议用独立 Python 环境隔离依赖，避免污染系统环境；README 节选未给出具体版本要求。
```
python -m venv medusa-env
source medusa-env/bin/activate
```
4查看安装说明

README 中有 Installation 章节，请按该章节给出的官方命令安装依赖，节选未包含其正文。
5准备模型权重

从 Hugging Face 下载需要加速的基础模型（README 以 Vicuna-7b 演示），Medusa 在此基础上加解码头。
6运行示例

项目以 Jupyter Notebook 为主要开发形式，启动后打开仓库内的 notebook 按顺序执行。
```
jupyter notebook
```