llama.cpp-android-tutorial

手把手教你在安卓手机跑大模型,零基础也能上手

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 13 🐛 待处理 1 👀 关注 1
GitHub ↗
GitHub 星标 ★ 177
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源教程,基于MIT许可证,完全免费,无付费版本。

项目预览

llama.cpp-android-tutorial 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队JackZeng0208
定价模式🏷️完全免费
价格说明开源教程,基于MIT许可证,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
技术栈/模型large-language-models,nlp
GitHub 星标★ 177
上线时间2023-09-08 00:00:00
代码更新2026-03-21
仓库体积38 KB
本站数据更新2026-11-18
维护状态低维护
收录时间2026-08-09
浏览次数11

项目介绍

这是一个面向Android开发者的llama.cpp入门教程项目,旨在帮助开发者在安卓手机上本地运行大语言模型。项目通过详细的步骤和示例代码,解决在移动端部署LLM时遇到的编译、集成和调用问题,让开发者无需深厚底层知识即可快速上手。核心能力包括:提供llama.cpp在Android环境下的编译指南、JNI接口封装示例、模型加载与推理的完整流程演示,以及性能调优建议。项目以教程形式组织,从环境搭建到实际运行,覆盖了从零到一的关键环节,适合希望将AI能力集成到Android应用中的开发者参考学习。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 177

技术标签

核心亮点

  • 提供llama.cpp在Android上的完整编译步骤,解决常见构建坑
  • 包含JNI层封装示例,降低C++与Java交互门槛
  • 演示模型加载与推理的端到端流程,可直接参考改造

不足之处

  • 教程内容较基础,未涉及高级优化如量化、多线程调度
  • 文档/社区待观察,项目较新且示例可能未覆盖所有安卓机型

适用场景

  • Android开发者希望快速集成本地LLM到应用中
  • 学习llama.cpp在移动端的移植与适配技术
  • 构建离线AI助手或隐私敏感型移动应用

替代项目

llama.cpp、llama.android、MLC-LLM

同类项目推荐

Large-Scale-Medical 开源

用几何先验预训练三维医学影像,让模型更懂解剖结构

[TPAMI 2026] Large-Scale 3D Medical Image Pre-training with Geometric Context Priors

★ 292 2026-08-09
OceanGPT 开源

让大模型懂海洋,科学问答与数据分析一步到位

[沧渊] [ACL 2024] OceanGPT: A Large Language Model for Ocean Science Tasks

★ 117 2026-08-09
gemma 开源

谷歌开放权重模型,本地单卡即可跑推理和微调

Gemma open-weight LLM library, from Google DeepMind

★ 5856 2026-09-16
xlstm 开源

让 LSTM 重获新生,长序列建模更快更省

Official repository of the xLSTM.

★ 2220 2026-08-09
UForm 开源

小体积多模态模型,图文视频理解快数倍

Distributed training & inference for multimodal perception: shared embeddings across···

★ 1254 2026-11-06
LLaVA-pp 开源

给 LLaVA 换上 LLaMA-3/Phi-3 大脑,看图对话更聪明

LLaVA++: Extending LLaVA with Phi-3 and LLaMA-3 (LLaVA LLaMA-3, LLaVA Phi-3)

★ 843 2026-09-16
CodeGen 开源

自然语言直接生成代码,媲美Codex的开源模型

CodeGen is a family of open-source model for program synthesis. Trained on TPU-v4. C···

★ 5183 2026-08-09
ERNIE 开源

用知识增强预训练,快速搞定复杂NLP任务

The official repository for ERNIE 4.5 and ERNIEKit – its industrial-grade developme···

★ 7740 2026-08-09