项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
技术标签
使用教程
—
环境要求
- Android 或 iOS 手机(Android 建议 2018 年后的 ARM 64 位机型)
- 下载 APK 约占 65 MB 存储空间
- iOS 自行构建需要 macOS 与 Xcode 环境
- 已准备好要导入的本地模型文件
- 本地 API 调用方需与设备同机访问 127.0.0.1
安装与启动步骤
-
1下载 APK
打开 GitHub Releases 页面 v2.0.0,按机型选择:arm64-v8a 适合 2018 年后大多数手机,老设备选 armeabi-v7a。
-
2安装并启动
在手机上安装下载好的 APK 并打开应用,首次运行无需 API Key、无需注册、无需联网。
-
3加载模型
在应用内加载本地模型文件(Quick Start 第一步:Load a model in the app)。
-
4开启本地 API
进入 Settings → Local API Server,把开关切换为 ON,应用即在本机启动一个本地 API 服务。
-
5调用本地 API
把客户端或工具的 base URL 指向 http://127.0.0.1:4891/v1 即可使用本地推理接口。
-
6iOS 打包部署
可选:用 Xcode 打开 ios/Runner.xcworkspace 并 Archive 后部署到 iOS 设备。
open ios/Runner.xcworkspace
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
Local API Server | 是 | 在 Settings 中开启后,本机可访问的本地推理接口 | http://127.0.0.1:4891/v1 |
模型文件 | 是 | 应用内加载的本地模型,用于完全离线的对话推理 | your-model.gguf |
如何确认成功
应用内可以正常对话,且 Settings 中 Local API Server 已开启,客户端能连通 http://127.0.0.1:4891/v1。
常见问题
Q:使用这款应用需要联网或 API Key 吗?
A:不需要。README 明确说明零云端依赖、无需 API Key、无需订阅,对话数据不会离开设备。
Q:应该下载哪个 APK?
A:大多数 2018 年之后的手机选 app-arm64-v8a-release.apk(约 65 MB);较老的设备选 app-armeabi-v7a-release.apk。
Q:Windows、macOS、Linux 能用吗?
A:Flutter 框架支持桌面平台,但 README 说明桌面端仍需要社区测试和打磨,目前以移动端为主。
Q:本地 API 的地址和端口是什么?
A:README 给出的 base URL 是 http://127.0.0.1:4891/v1,需在 Settings 中先开启 Local API Server。
注意事项
- README 只提供了预编译 APK 下载与本地 API 开启方式,没有给出从源码构建的完整命令,此处未做推测。
- iOS 需要自行用 Xcode 打开 ios/Runner.xcworkspace 并 Archive 部署。
- 桌面端支持尚未打磨,使用前请留意兼容性。
- 模型文件需用户自行准备并在应用内加载。
核心亮点
- Flutter 一套代码覆盖 Android、iOS、PC,跨平台体验统一
- 完全离线运行 GGUF 模型,对话数据不出设备,隐私性强
- 不内置内容过滤,用户可自由导入模型,适合无审查文本生成需求
不足之处
- 本地推理依赖设备性能,低端手机跑大模型速度慢、发热明显
- 模型需用户自行寻找和导入,缺少内置模型下载与管理界面
适用场景
- 在无网络环境下用手机离线对话或写作
- 对隐私敏感的用户处理私密文本,避免云端上传
- 研究者或创作者测试无过滤开源模型的生成效果
替代项目
llama.cpp、Ollama、GPT4All
上一篇:Vietnamese_LLMs
下一篇:没有了!
同类项目推荐
Machine-Learning
开源
跟着博客笔记,边看边跑机器学习代码
All content related to machine learning from my blog
awesome-claude-fable-5-prompt-va···
开源
一站式掌握 Claude Fable 5 玩法,快速选型不踩坑
Ultimate Claude Fable 5 Guide 2026: Use Cases, Integrations & Benchmarks
Diffusion-Models-Papers-Survey-T···
开源
学视频生成怕绕路?这份资料库帮你理清
Diffusion model papers, survey, and taxonomy
CoreML-Models
开源
下载即用的苹果端 AI 模型库,免去转换烦恼
Core ML model zoo for iOS/macOS — PyTorch models converted to ready-to-use .mlpacka···
