OfflineLLM

断网也能聊的本地大模型,聊天记录不出手机

开源 🏷️完全免费 ✅ 目前可打开 对话助手 🍴 复刻 29 🐛 待处理 1 👀 关注 4
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 290
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,本地运行无需付费

项目预览

OfflineLLM 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类对话助手
开发团队jegly
官网地址https://jegly.xyz
定价模式🏷️完全免费
价格说明开源免费,本地运行无需付费
访问状态✅ 目前可打开
是否开源是
开源协议NOASSERTION
主要语言Kotlin
技术栈/模型android,android-ai,android-ai-app,android-llm,artificial-intelligence,edge-ai,gemma4,generative-ai,llamacpp,llm,local-ai,local-llm,local-llm-android,offlinellm,on-device-ai,privacy-first-ai,private-ai-assistant,private-local-ai,qwen3-5
GitHub 星标★ 290
上线时间2026-04-04 00:00:00
代码更新2026-11-20
仓库体积10.1 MB
本站数据更新2026-11-21
维护状态活跃
收录时间2026-10-06
浏览次数10

项目介绍

OfflineLLM 是一款面向 Android 的本地化 AI 对话应用,核心思路是把大模型完全跑在手机上,不依赖任何云端服务。它通过 llama.cpp 加载任意 GGUF 格式模型,并针对 ARM 架构做了 SIMD 指令优化,让推理速度在移动端更可用,同时支持 GPU 加速进一步降低延迟。项目主打隐私与安全:应用不申请网络权限,从系统层面杜绝数据外传;设置项加密存储,支持生物识别锁,还加入篡改检测,防止被二次打包或恶意修改。用户可以在断网、飞行模式下与模型对话,适合处理敏感信息、离线笔记问答、个人知识助手等场景。技术上使用 Kotlin 编写,属于典型的端侧 AI(edge AI)方案,把模型权重、推理引擎和对话界面全部塞进一个 App,省去服务器成本,也避免账号体系和内容审查依赖。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-06 · 当前星标 ★ 290

核心亮点

  • 零网络权限,从系统层面阻断数据外传,隐私性极强
  • 支持任意 GGUF 模型,可自由替换量化版本平衡速度与质量
  • ARM SIMD 优化加 GPU 加速,移动端推理速度有实际提升

不足之处

  • 仅支持 Android,iOS 和桌面端用户无法使用
  • 模型需用户自行下载导入,缺少内置模型商店或一键下载
  • 早期项目,250 星标,社区规模和长期维护待观察

适用场景

  • 飞行模式下与本地模型讨论敏感工作内容
  • 律师、医生等处理隐私信息时做离线问答助手
  • 无网络环境(野外、地下)中随时调用 AI 对话

替代项目

llama.cpp、MLC LLM、PocketPal AI

上一篇:cardputer-ai

下一篇:Brahma-Echo

同类项目推荐

Robby-chatbot 开源

上传文件或视频链接,即可用自然语言提问并获取答案

AI chatbot for chat with CSV, PDF, TXT files and YTB videos | using Langchain | O···

★ 812 2026-08-09
botfuel-dialog 开源

用 Node.js 快速搭建多轮对话机器人,管理流程和意图。

Botfuel SDK to build highly conversational chatbots

★ 99 2026-08-09
koishi-desktop 开源

把 Koishi 聊天机器人变成桌面应用,双击即用

Launch Koishi from your desktop

★ 128 2026-08-09
kobold_assistant 开源

本地跑通语音AI助手,离线对话不泄露隐私

Like ChatGPT's voice conversations with an AI, but entirely offline/private/trade-se···

★ 162 2026-08-09
WeChatMsg 开源

一键导出微信聊天记录,喂给大模型做分析

★ 42367 2026-08-09
JARVIS-AI-ASSISTANT 开源

离线运行,打造你的钢铁侠贾维斯语音助手

A true Artificial Intelligent Assistant with ALICE as backend and offline speech rec···

★ 109 2026-08-09
BentoChain 开源

用语音和AI对话,快速搭建能听会说的聊天机器人

A voice-enabled chatbot application built using of ️ LangChain, text-to-speech, and···

★ 194 2026-08-09
FoundationChat 开源

在 iOS 26 上快速跑通苹果原生端侧聊天,省去模型接入烦恼

A chat app with iOS 26 Foundation Models

★ 349 2026-08-09
memorybot 开源

让 AI 聊天永不失忆,无限上下文畅聊到底

A Node.js AI chatbot with unlimited context and chat history.

★ 123 2026-08-09