awesome-mobile-llm

手机跑大模型，一页看全方案与模型

awesome-mobile-llm 是一个聚焦移动端大语言模型（Mobile LLM）的资源汇总项目，以 Awesome 列表形式收集在手机、平板、边缘设备上运行大模型的方案、论文、工具与模型。它解决的是移动端 LLM 信息分散、选型困难的问题：开发者想给 App 加本地推理能力，却不知道有哪些量化格式、推理框架、端侧模型可用。项目核心能力是分类整理端侧推理引擎（如 llama.cpp、MLC、MNN、NCNN）、量化与压缩技术、适配手机芯片的模型（如 Phi、Gemma、Qwen 小尺寸版）以及相关基准测试和部署教程。它本身不是代码库，而是导航型知识库，帮助研究者快速了解移动 LLM 生态全貌，降低从零调研的时间成本。适合做端侧 AI 的工程师、产品经理和学术研究者作为入门索引。