SmolChat-Android
手机上离线跑 GGUF 大模型，随时对话不联网
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-10-24 · 当前星标 ★ 897
核心亮点
- 基于 llama.cpp/ggml，直接复用成熟的 GGUF 量化推理生态，模型兼容性好
- 完全本地推理，对话数据不出设备，适合隐私敏感场景
- Kotlin + C++ 分层清晰，Android 端集成 JNI 调用推理引擎，可作为端侧部署参考实现
不足之处
- 移动端算力有限，较大模型生成速度慢、内存占用高，体验受设备影响明显
- 模型需用户自行准备并导入，缺少内置模型管理或一键下载流程
- 早期项目，功能与稳定性仍在迭代，文档和社区规模待观察
适用场景
- 无网络环境下在手机上使用本地模型进行问答
- 对隐私要求高、不希望对话内容上云的离线助手
- 开发者研究 Android 端 GGUF 模型部署与端侧推理性能
替代项目
llama.cpp、MLC-LLM、PocketPal AI
下一篇：ellama
同类项目推荐
PocketRisu
开源
把 AI 角色扮演聊天搬到自家服务器，数据全掌控
Self-hosted AI roleplay chat platform you run on your PC or personal server, forked ···
chatgpt-pro
开源
一个界面同时聊天和画图，AI 创作效率翻倍
ChatGPT-Pro is an advanced application that combines the power of ChatGPT and DALL.E···
CSV-AI
开源
上传 CSV，用大白话提问，自动出分析结果。
CSV-AI is the ultimate app powered by LangChain, OpenAI, and Streamlit that allows y···
leon
开源
开口就能指挥 AI 干活，数据留在本地，不怕泄露
Leon is your open-source personal assistant.
ollama-client
开源
在浏览器里直接和本地大模型聊天，隐私安全不泄露。
Ollama Client – Chat with Local LLMs Inside Your Browser A lightweight, privacy‑f···
sendbird-uikit-react-native
开源
几行代码给 React Native 应用加上聊天功能
Build chat in minutes with Sendbird UIKit open source code.
oxproxion
开源
一个安卓 App 统管多个大模型，换模型、改人格、存记录
oxproxion is a versatile and user-centric Android chat application designed to inter···
claude-overlay
开源
屏幕感知的浮动聊天，让 Claude 随时待命，不打断编码节奏。
A floating, screen-aware Claude Code chat for Windows - it reads your screen to answ···
Tera
开源
本地运行，隐私无忧，打造专属 AI 助手
Tera is wrapper around OpenAI's Codex to be always on whatsapp agent