servllama

一个 App 同时聊云端和手机本地大模型

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 对话助手 🍴 复刻 15 🐛 待处理 4 👀 关注 2
GitHub ↗
GitHub 星标 ★ 104
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,需自行部署

项目数据

分类对话助手
开发团队ArkaneFans
定价模式🏷️完全免费
价格说明开源免费,需自行部署
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议AGPL-3.0
主要语言Dart
技术栈/模型android,chatbot,flutter,llama,llama-cpp,llama-cpp-ui,llama-server,llm,mnn,mnn-android,ollama,web-ui
GitHub 星标★ 104
上线时间2026-03-03 00:00:00
代码更新2026-11-01
仓库体积111.9 MB
本站数据更新2026-11-02
维护状态活跃
收录时间2026-11-02
浏览次数0

项目介绍

servllama 是一个基于 Dart/Flutter 构建的跨平台对话客户端,目标是用一个应用同时接入云端大模型与本地端侧大模型。它解决的核心问题是:用户在不同场景下需要在云端 API 和本地推理之间切换,而现有工具往往只覆盖其中一端。项目通过统一聊天界面,把 Ollama 等云端或局域网服务,与基于 llama.cpp、MNN 的 Android 端侧推理整合到同一入口,并提供 Web UI 形态。技术上依赖 llama-server、mnn-android 等后端,Flutter 负责界面与跨端适配。当前星标约 104,属于早期项目,功能边界和稳定性仍在演进中。适合想在一个 App 内对比云端与本地模型效果、或需要在移动端离线跑小模型的开发者试用。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-11-02 · 当前星标 ★ 104

核心亮点

  • 同一聊天界面切换云端 LLM 与 Android 端侧模型,减少多工具来回切换
  • 基于 Flutter 构建,界面代码可复用到多端,并附带 Web UI 形态
  • 集成 llama.cpp 与 MNN 两类端侧推理后端,本地模型选择空间较大

不足之处

  • 早期项目,星标约 104,功能完整度与长期维护稳定性待观察
  • 端侧推理受手机算力与内存限制,可跑模型规模和速度有限
  • 文档与社区生态尚不成熟,遇到问题可参考的资料较少

适用场景

  • 开发者在手机上离线试用小参数本地模型
  • 需要对比同一问题在云端 API 与端侧模型下回答差异
  • 在 Flutter 项目中参考多后端 LLM 接入的界面实现

替代项目

Ollama、LM Studio、Chatbox

上一篇:chatvia

下一篇:genai-web

同类项目推荐

TG.line.Discord.Roll.Bot 开源

一个机器人搞定多平台 TRPG 掷骰、角色卡和先攻表。

Sad's HKTRPG is a TRPG dice rolling bot for Telegram, Line, Whatsapp, web site and D···

★ 111 2026-08-09
koishi-desktop 开源

把 Koishi 聊天机器人变成桌面应用,双击即用

Launch Koishi from your desktop

★ 128 2026-08-09
aws-lex-web-ui 开源

几分钟搭好 Lex 聊天界面,支持语音交互

Sample Amazon Lex chat bot web interface

★ 814 2026-08-09
kochat 开源

用 Python 快速搭建韩语聊天机器人,搞定意图识别和实体抽取。

Opensource Korean chatbot framework

★ 460 2026-08-09
wa_llm 开源

@一下,让 AI 在 WhatsApp 群里接话干活

A WhatsApp bot that can participate in group conversations, powered by AI. The bot m···

★ 173 2026-09-16
Python-Assistant 开源

用语音命令控制电脑,说句话就能执行任务

Python Assistant (PA) is a voice command based assistant service written in Python 3···

★ 92 2026-08-09
awesome-chatgpt 开源

找ChatGPT工具,看这份精选清单就够了

A curated list of awesome ChatGPT resources, including libraries, SDKs, APIs, and mo···

★ 2417 2026-08-09
nitmgpt 开源

用 ChatGPT 帮你拦截垃圾通知,手机清净多了

nitmgpt (Notification-in-the-middle GPT). Filter ads or spam notifications via ChatG···

★ 96 2026-08-09
Maoxuan-Changzheng 开源

用毛选方法论,把问题搞实,找到主要矛盾,一起想清楚。

毛选Skill升级版:毛选长征机把《毛泽东选集》五卷的方法论提炼为一套可运行的对话协议:调···

★ 455 2026-08-09