awesome-mobile-llm
手机跑大模型，一页看全方案与模型
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-09-26 · 当前星标 ★ 417
使用教程
环境要求
- 无需环境
安装与启动步骤
-
1按端侧场景分
它按手机、嵌入式与浏览器三类场景整理。
-
2看更新日期
仓库标注了最近更新时间，端侧变化快。
-
3优先看带实测数据的条目
只有论文没有实测的参考价值低。
-
4对照自己的设备
同一模型在不同芯片上差别很大。
如何确认成功
你能就自己的目标设备说清可行模型规模与量化方案，并指出清单里哪条实测数据最接近你的场景
注意事项
- 这是资源清单，聚焦端侧运行而不是训练。
- 端侧硬件差异极大，别人的帧率不能直接套用。
- 条目里混有论文与工程实现，落地程度差别大。
- 清单更新标注了日期，超过半年的条目要重新验证。
核心亮点
- 按推理框架、量化方法、端侧模型、论文等维度分类，查找路径清晰
- 收录 llama.cpp、MLC-LLM、MNN 等主流移动端推理方案，覆盖面广
- 以 Awesome 列表形式维护，便于社区提交 PR 持续补充新模型与新工具
不足之处
- 项目处于早期，星标仅 403，收录条目和更新频率有限
- 缺少各方案的性能对比、实测数据和选型建议，偏链接罗列
适用场景
- 移动端 App 开发者调研本地 LLM 推理方案
- 边缘计算研究者查找端侧模型与量化论文
- 学生或爱好者入门手机部署大模型的学习索引
替代项目
awesome-on-device-ai、Awesome-LLM
同类项目推荐
Diffusion-UI
开源
一个界面玩转多种扩散模型，快速生成动漫风格图像
Anything 4.5, Anything 3.0, Waifu Diffusion, Stable Diffusion 2.1, H Diffusion, Midj···
OmniVinci
开源
一个模型同时看懂图像、听懂声音、理解文字，搞定多模态任务。
OmniVinci is an omni-modal LLM for joint understanding of vision, audio, and languag···
LakonLab
开源
用流匹配加速图像生成，训练快、采样快、效果稳
Official implementation of AsymFlow, pi-Flow, GMFlow
ProCyon
开源
融合多模态数据，精准预测蛋白质功能表型
ProCyon: A multimodal foundation model for protein phenotypes
sd-webui-model-downloader-cn
开源
国内可直接下载Civitai模型，省心省力
免梯子下载 civitai 上的模型
OneJev
开源
一次前向传播，给屏幕/视频/图文问题带置信度的答案
A multimodal System One decision model that gives calibrated answers to typed questi···
cosmos
开源
用世界模型造物理AI训练数据，省真机成本
NVIDIA Cosmos is an open platform of world models, datasets, and tools that enables ···
ONE-PEACE
开源
一个模型搞定视觉、音频、语言，跨模态任务开箱即用
A general representation model across vision, audio, language modalities. Paper: ONE···
Nitro-1
开源
一步生成高清图，让扩散模型快如闪电
This repo provides a working re-implementation of Latent Adversarial Diffusion Disti···