
llama.cpp-android-tutorial
手把手教你在安卓手机跑大模型,零基础也能上手
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 177
技术标签
核心亮点
- 提供llama.cpp在Android上的完整编译步骤,解决常见构建坑
- 包含JNI层封装示例,降低C++与Java交互门槛
- 演示模型加载与推理的端到端流程,可直接参考改造
不足之处
- 教程内容较基础,未涉及高级优化如量化、多线程调度
- 文档/社区待观察,项目较新且示例可能未覆盖所有安卓机型
适用场景
- Android开发者希望快速集成本地LLM到应用中
- 学习llama.cpp在移动端的移植与适配技术
- 构建离线AI助手或隐私敏感型移动应用
替代项目
llama.cpp、llama.android、MLC-LLM
同类项目推荐
Large-Scale-Medical
开源
用几何先验预训练三维医学影像,让模型更懂解剖结构
[TPAMI 2026] Large-Scale 3D Medical Image Pre-training with Geometric Context Priors
awesome-pretrained-chinese-nlp-m···
开源
找中文NLP模型,一个仓库全搞定
Awesome Pretrained Chinese NLP Models,高质量中文预训练模型&大模型&多模态模型&大语言···
OceanGPT
开源
让大模型懂海洋,科学问答与数据分析一步到位
[沧渊] [ACL 2024] OceanGPT: A Large Language Model for Ocean Science Tasks
gemma
开源
谷歌开放权重模型,本地单卡即可跑推理和微调
Gemma open-weight LLM library, from Google DeepMind
xlstm
开源
让 LSTM 重获新生,长序列建模更快更省
Official repository of the xLSTM.
UForm
开源
小体积多模态模型,图文视频理解快数倍
Distributed training & inference for multimodal perception: shared embeddings across···
LLaVA-pp
开源
给 LLaVA 换上 LLaMA-3/Phi-3 大脑,看图对话更聪明
LLaVA++: Extending LLaVA with Phi-3 and LLaMA-3 (LLaVA LLaMA-3, LLaVA Phi-3)
CodeGen
开源
自然语言直接生成代码,媲美Codex的开源模型
CodeGen is a family of open-source model for program synthesis. Trained on TPU-v4. C···
ERNIE
开源
用知识增强预训练,快速搞定复杂NLP任务
The official repository for ERNIE 4.5 and ERNIEKit – its industrial-grade developme···