BigMoeOnEdge

12GB 手机纯 CPU 跑超内存 MoE 大模型，无损不降智

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署基础设施 🍴 复刻 81 🐛 待处理 28 👀 关注 7

GitHub ↗

GitHub 星标 ★ 703

维护状态活跃

是否开源开源

定价模式 🏷️完全免费开源免费，基于llama.cpp，需自行部署

项目预览

BigMoeOnEdge 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类基础设施

开发团队Helldez

GitHubhttps://github.com/Helldez/BigMoeOnEdge

定价模式🏷️完全免费

价格说明开源免费，基于llama.cpp，需自行部署

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言C++

技术栈/模型android,cpp,edge-ai,gemma,gguf,inference,llama-cpp,llm,mixture-of-experts,moe,on-device-ai,qwen

GitHub 星标★ 703

上线时间2026-07-10 00:00:00

代码更新2026-11-02

仓库体积24.4 MB

本站数据更新2026-11-03

维护状态活跃

收录时间2026-09-16

浏览次数1

项目介绍

BigMoeOnEdge 是一个让 MoE（混合专家）大模型跑在内存不足设备上的推理方案，核心思路是流式加载专家权重：模型的总参数量可以远超设备 RAM，但每次前向只把当前 token 命中的少数专家从磁盘读入内存，其余权重留在存储里。项目基于原生 llama.cpp 实现，不修改量化格式，因此输出与全量加载时一致，属于无损推理。官方演示在仅 12 GB 内存的安卓手机上，纯 CPU 运行前沿规模的 MoE 模型（如 Gemma、Qwen、GPT-OSS 系列 GGUF），无需 GPU、无需云端。它解决的是边缘设备内存墙问题：传统做法要么裁剪模型、要么降精度，而它靠 IO 换内存，让手机也能体验大 MoE 的能力。适合想在本机跑大模型、又受限于内存的开发者与极客。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 703

技术标签

android cpp edge-ai gemma gguf

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：高级约 60 分钟部署方式：本地安装 4 步

环境要求

较大内存与快速 SSD
Python 3.10+
MoE 模型权重

安装与启动步骤

1克隆仓库

递归克隆，子模块里有推理所需的原生代码。
```
git clone --recursive https://github.com/Helldez/BigMoeOnEdge.git
```
2装依赖并构建界面

前端单独构建，构建产物要给后端读取。
```
cd ui && npm ci && npm run build && cd ..
```
3准备专家权重

核心思路是把专家放闪存按需读，权重目录要放在读写快的磁盘上。
4跑推理对比

同参数下对比常驻显存的方案，观察首字延迟与吞吐。