BigMoeOnEdge

12GB 手机纯 CPU 跑超内存 MoE 大模型，无损不降智

BigMoeOnEdge 是一个让 MoE（混合专家）大模型跑在内存不足设备上的推理方案，核心思路是流式加载专家权重：模型的总参数量可以远超设备 RAM，但每次前向只把当前 token 命中的少数专家从磁盘读入内存，其余权重留在存储里。项目基于原生 llama.cpp 实现，不修改量化格式，因此输出与全量加载时一致，属于无损推理。官方演示在仅 12 GB 内存的安卓手机上，纯 CPU 运行前沿规模的 MoE 模型（如 Gemma、Qwen、GPT-OSS 系列 GGUF），无需 GPU、无需云端。它解决的是边缘设备内存墙问题：传统做法要么裁剪模型、要么降精度，而它靠 IO 换内存，让手机也能体验大 MoE 的能力。适合想在本机跑大模型、又受限于内存的开发者与极客。