Awesome-Multi-Token-Prediction

一次预测多个词，让大模型推理更快更省

这是一个聚焦大语言模型多Token预测（Multi-Token Prediction, MTP）技术的资源合集，系统整理了相关论文、工具与开源实现。MTP 的核心思路是让模型在单次前向传播中同时预测多个未来 token，而非传统的一次只预测下一个 token，从而提升训练效率、推理吞吐和生成质量。该项目覆盖 LLM、语音语言模型（SLM）等多种模型形态，把散落在 arXiv、GitHub、技术博客中的 MTP 工作汇总到一处，方便研究者和工程师快速了解该方向的发展脉络、代表性方法（如 Meta 的 MTP 训练目标、Medusa、EAGLE 等推测解码思路）以及可复现的实现。对于想优化推理速度、降低解码延迟或探索新训练范式的团队，它是一份省去大量检索时间的入门索引。

开源 free 数据集

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 206

维护状态较活跃

是否开源是

定价模式 free

项目数据

分类数据集

开发团队Xiaohao-Liu

所属国家

官网地址

GitHubhttps://github.com/Xiaohao-Liu/Awesome-Multi-Token-Prediction

定价模式free

价格说明开源免费资源列表

访问状态

是否开源是

开源协议

主要语言

技术栈/模型llm,llm-infer,llm-training

GitHub 星标★ 206

30天Star增速

HF 下载量

上线时间2025-06-20 00:00:00

最近更新2026-09-14 00:00:00

维护状态较活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-09-15

浏览次数0

使用教程

核心亮点

按主题聚合 MTP 相关论文、工具与代码，省去跨平台检索成本
覆盖 LLM 与语音语言模型，兼顾训练与推理两个方向
收录推测解码、多 token 训练目标等热门落地技术，实用性强

不足之处

仅为资源列表，不含可直接运行的代码或基准测试
项目较早期，收录内容的更新频率与完整性有待观察

适用场景

研究多 token 预测训练目标的算法工程师查阅论文索引
推理优化团队寻找加速解码的可用工具与实现
学生或新人快速入门 MTP 方向的技术脉络

替代项目

Awesome-LLM、Awesome-Speculative-Decoding

项目介绍

Awesome-Multi-Token-Prediction 是一个数据集领域的开源项目，官方简介：A curated list of papers, tools, and resources on Multi-Token Prediction (MTP) and related techniques in Large Language Models (LLMs), Speech-Language Models (SLMs), and more.。项目使用未知开发，在 GitHub 上获得 206 星标。

上一篇：VisioFirm

下一篇：awesome-japanese-nlp-resources