MNN

阿里出品，手机端跑大模型，快人一步

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 2511 🐛 待处理 65 👀 关注 237

GitHub ↗

GitHub 星标 ★ 16438

维护状态活跃

是否开源开源

定价模式 🏷️完全免费开源推理引擎，Apache-2.0许可，完全免费，可自行部署使用。

项目预览

项目数据

分类开源模型

开发团队alibaba

GitHubhttps://github.com/alibaba/MNN

定价模式🏷️完全免费

价格说明开源推理引擎，Apache-2.0许可，完全免费，可自行部署使用。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言C++

技术栈/模型arm,convolution,deep-learning,embedded-devices,llm,machine-learning,ml,mnn,transformer,vulkan,winograd-algorithm

GitHub 星标★ 16438

上线时间2019-04-15 00:00:00

代码更新2026-11-09

仓库体积359.6 MB

本站数据更新2026-11-09

维护状态活跃

收录时间2026-08-09

浏览次数6

项目介绍

MNN是阿里巴巴开源的一款轻量级深度学习推理引擎，专注于移动端和边缘设备的高性能模型推理。它解决了在资源受限的设备上高效运行AI模型的问题，支持TensorFlow、PyTorch、ONNX等多种主流模型格式的转换和优化。MNN具备模型压缩、量化、算子融合等优化技术，能够显著提升推理速度和降低内存占用。其核心能力包括跨平台支持（iOS、Android、嵌入式设备）、CPU/GPU/NPU多后端加速，以及针对大语言模型（LLM）的端侧部署优化。MNN已在阿里巴巴内部大规模应用，服务于淘宝、天猫等业务的图像识别、推荐、AR等场景，并持续开源迭代，为开发者提供稳定、高效的端侧AI解决方案。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 16438

技术标签

deep-learning llm machine-learning ml mnn

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：进阶约 10 分钟部署方式：库/依赖 4 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

可访问 GitHub 的 git 环境（用于克隆源码）
C++ 开发环境（MNN 为 C++ 编写的推理引擎）
按目标平台准备对应工具链：iOS、Android 或嵌入式设备
可选：高通 Hexagon DSP 设备（3.6.1 新增 Hexagon 后端用于加速推理）

安装与启动步骤

1克隆 MNN 仓库

从 GitHub 获取 MNN 源码，后续编译与示例应用都基于该目录进行。
```
git clone https://github.com/alibaba/MNN.git
```
2阅读仓库文档

本次 README 节选只有 News，没有安装说明；请打开仓库 README 查找编译与使用章节，按官方步骤操作。
3查看功能示例

README 提到 apps 目录下有多类示例（如 Sana 图像编辑、Android/iOS LLM 应用），可按需参考，但节选未给出具体命令。
4了解 Hexagon 后端

若使用高通 Hexagon DSP 加速，README 指向 source/backend/hexagon/README.md，请以该文档为准。