
selfhostedAI
一键自托管 AI,小白也能轻松跑起图像生成
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 411
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- Python 3.10+
- 上游模型服务凭据
安装与启动步骤
-
1看它支持哪些能力
接口对齐 OpenAI 格式,聊天、绘图、语音分模块。
-
2配好上游凭据
把要用的模型服务密钥写进配置。
-
3起服务
暴露一个与 OpenAI 兼容的地址。
-
4改成兼容地址试调用
现有 OpenAI 客户端改 base_url 就能接。
如何确认成功
用 OpenAI 官方客户端把 base_url 指向本地服务后,能正常完成一次对话请求并拿到回复
注意事项
- 它的价值是协议兼容:已有的 OpenAI 生态项目基本不用改代码。
- 兼容层不等于功能对等,部分高级参数会被忽略。
- 对外暴露时必须自己加鉴权,兼容接口默认没有访问控制。
- 上游服务变更会导致报错,出问题先看上游而不只是本地代码。
核心亮点
- 提供一键部署脚本,显著降低自托管 AI 的技术门槛
- 支持多种主流模型(Stable Diffusion、ChatGLM 等),覆盖图像和文本生成
- 基于 Docker 封装,环境隔离,便于迁移和备份
不足之处
- 项目处于早期阶段,文档和社区支持尚不完善
- 一键脚本可能对特定硬件或系统兼容性有限
适用场景
- 个人开发者快速在本地搭建 AI 图像生成服务
- 小型团队在私有服务器上部署 LLM 以保护数据隐私
- AI 爱好者尝试多种模型而无需逐一配置环境
替代项目
AUTOMATIC1111/stable-diffusion-webui、ollama、LocalAI
下一篇:ollama-intel-arc
同类项目推荐
axonhub
开源
一个网关,用任意 SDK 稳定调用 100+ 大模型,自动容灾省钱
⚡️ Open-source AI Gateway — Use any SDK to call 100+ LLMs. Built-in failover, loa···
openai-openapi
开源
官方 API 契约,一键生成客户端与文档
OpenAPI specification for the OpenAI API
DataPup
开源
AI 加持的免费跨平台数据库客户端,让查询更智能
A modern, AI-assisted, cross-platform database client - free
mlops-python-package
开源
一键生成标准 MLOps 项目骨架,快速落地数据管道
Production-shaped MLOps Python package and reference implementation of the MLOps Cod···
voidllm
开源
自托管 AI 网关,统一管理多模型 API,保护提示词隐私。
Privacy-first LLM proxy and AI gateway - load balancing, multi-provider routing, API···
ComfyUI-Distributed
开源
多张显卡一起跑 ComfyUI,出图更快
ComfyUI extension that enables multi-GPU processing locally, remotely and in the clo···
persistent-ai-memory
开源
给AI装上本地长期记忆,让对话不再失忆
A persistent local memory for AI, LLMs, or Copilot in VS Code.
archestra
开源
给企业 AI 套上护栏,统一管理模型与工具,安全落地
Enterprise AI Platform with guardrails, MCP registry, gateway & orchestrator
noronha
开源
用声明式管道搞定 ML 数据流程,快速上线模型
DataOps framework for Machine Learning projects.