OfflineLLM

断网也能聊的本地大模型，聊天记录不出手机

OfflineLLM 是一款面向 Android 的本地化 AI 对话应用，核心思路是把大模型完全跑在手机上，不依赖任何云端服务。它通过 llama.cpp 加载任意 GGUF 格式模型，并针对 ARM 架构做了 SIMD 指令优化，让推理速度在移动端更可用，同时支持 GPU 加速进一步降低延迟。项目主打隐私与安全：应用不申请网络权限，从系统层面杜绝数据外传；设置项加密存储，支持生物识别锁，还加入篡改检测，防止被二次打包或恶意修改。用户可以在断网、飞行模式下与模型对话，适合处理敏感信息、离线笔记问答、个人知识助手等场景。技术上使用 Kotlin 编写，属于典型的端侧 AI（edge AI）方案，把模型权重、推理引擎和对话界面全部塞进一个 App，省去服务器成本，也避免账号体系和内容审查依赖。