self-hosted-ai-stack

一行命令部署本地 AI 全家桶，数据不出门，隐私又安全。

这是一个基于 Docker Compose 的一站式自托管 AI 技术栈部署方案，旨在帮助用户快速搭建本地优先、隐私安全的 AI 服务集群。它集成了 Ollama（本地大模型运行）、LiteLLM（统一 API 网关）、AnythingLLM（知识库问答）、Whisper（语音转文字）、WhisperLive（实时语音识别）、Kokoro（语音合成）、Embeddings（向量嵌入）、Docling（文档解析）以及 MCP Gateway（模型上下文协议网关）等核心组件。项目通过轻量级配置和模块化设计，解决了自建 AI 服务时常见的组件集成复杂、依赖冲突、隐私泄露等问题。用户只需一条命令即可启动完整的 AI 服务栈，支持 NVIDIA CUDA 加速和 amd64/arm64 多架构，并可选配置 HTTPS 保障通信安全。适合个人开发者、中小企业或隐私敏感场景，快速获得本地化的 LLM 推理、语音交互、文档处理等能力，同时保持数据完全自主可控。