项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-10-24 · 当前星标 ★ 301
核心亮点
- 图形化界面封装模型下载、推理服务启动全流程，省去手写配置
- 推理服务跑在容器里，环境隔离、可复现，不污染宿主机
- 与 Podman Desktop 深度集成，模型和容器状态集中可视管理
不足之处
- 强依赖 Podman 桌面环境，未使用该工具链的用户迁移成本高
- 早期项目，模型格式与推理后端支持范围有限，文档和社区待观察
适用场景
- 开发者在个人电脑上快速搭建本地 LLM 推理环境做原型验证
- 需要在隔离容器中对比不同模型或推理后端效果的实验场景
- 离线或私有环境下部署本地推理服务并做接口联调
替代项目
Ollama、LocalAI、text-generation-webui
上一篇：nuxt-llms
下一篇：dgx-spark-qwen38
同类项目推荐
nano-vllm
开源
轻量跑大模型，看懂推理全流程
Nano vLLM
codex-openai-wrapper
开源
把 Codex 包装成 OpenAI 接口，一行配置无缝接入现有工具
Wrap OpenAI's Codex to an OpenAI compatible endpoint using Cloudflare Workers
ZETIC_Melange_apps
开源
在手机上用NPU跑AI，又快又省电
NPU powered On-device AI Mobile applications using Melange
mcp-pinecone
开源
让AI直接读写Pinecone向量库，实现简易RAG
Model Context Protocol server to allow for reading and writing from Pinecone. Rudime···
mlops-project
开源
一键搭建MLOps流水线，让模型上线快人一步
mlops-platforms
开源
一张表看清主流MLOps平台差异，选型不再纠结
Compare MLOps Platforms. Breakdowns of SageMaker, VertexAI, AzureML, Dataiku, Databr···
thepipe
开源
用视觉大模型，把复杂文档秒变干净数据
Get clean data from tricky documents, powered by vision-language models ⚡
octelium
开源
一套自托管平台，搞定 VPN、ZTNA、API 网关和内网穿透
A next-gen FOSS self-hosted unified zero trust secure access platform that can opera···
tabularis
开源
一个桌面工具，连接 15+ 数据库，还能让 AI 帮你写 SQL。
Open-source desktop SQL workspace with 3 built-in database drivers and 24 shipped dr···