MoBA

把长文本切成块，只盯重点，让大模型轻松读百万字。

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 161 🐛 待处理 15 👀 关注 30

GitHub ↗

GitHub 星标 ★ 2198

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源项目，MIT许可证，完全免费，可自行部署使用。

项目预览

项目数据

分类开源模型

开发团队MoonshotAI

GitHubhttps://github.com/MoonshotAI/MoBA

定价模式🏷️完全免费

价格说明开源项目，MIT许可证，完全免费，可自行部署使用。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议MIT

主要语言Python

技术栈/模型flash-attention,llm,llm-serving,llm-training,moe,pytorch,transformer

GitHub 星标★ 2198

上线时间2025-02-17 00:00:00

代码更新2025-04-03

仓库体积2.5 MB

本站数据更新2026-11-09

维护状态低维护

收录时间2026-08-09

浏览次数6

项目介绍

MoBA 是一种面向长上下文大语言模型的新型注意力机制，核心思想是将输入序列划分为多个块，并采用混合专家（MoE）的思路，让每个查询只关注最相关的少数块，从而将标准注意力机制的二次方计算复杂度降低到接近线性。它解决了长文本处理中计算和内存开销过大的问题，使模型能够高效处理百万级 token 的上下文。MoBA 的核心能力包括：动态块选择、稀疏注意力计算、与现有 Transformer 架构无缝集成，以及支持预训练和微调。通过实验验证，MoBA 在保持模型性能的同时，显著提升了长上下文场景下的训练和推理速度，为长文本应用提供了更经济的解决方案。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 2198

技术标签

llm llm-serving llm-training moe pytorch

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：高级约 30 分钟部署方式：库/依赖 3 步

环境要求

Python 3.10（README 使用 conda 创建 python=3.10 环境）
torch >= 2.1.0
flash-attn==2.6.3（当前 kernel 实现依赖该版本）
conda 环境管理工具
可访问的 Llama-3.1-8B 模型权重（需自行准备）

安装与启动步骤

1创建并激活环境

使用 conda 创建 Python 3.10 的独立环境，避免与现有依赖冲突，随后激活该环境。
```
conda create -n moba python=3.10
conda activate moba
```
2安装 MoBA

在项目根目录执行 pip install . 完成安装，注意 README 要求 torch>=2.1.0 与 flash-attn==2.6.3。
```
pip install .
```
3运行示例脚本

使用 examples/llama.py 跑通快速开始，通过 --attn 选择 moba 或 moba_naive 注意力后端。
```
python3 examples/llama.py --model meta-llama/Llama-3.1-8B --attn moba
```