ollama-operator

用 K8s 声明式 YAML 一键部署和管理 Ollama 大模型服务

ollama-operator 是一个用 Go 编写的 Kubernetes Operator，目标是把 Ollama 大语言模型运行时以声明式方式部署到 K8s 集群中。它通过自定义资源（CRD）描述模型、副本数、资源限制和存储需求，Operator 控制器自动创建对应的 Deployment、Service 和 PVC，并负责拉取模型、健康检查与状态回写。相比手工写 YAML 部署 Ollama，它把模型生命周期纳入 K8s 原生控制循环，支持多模型并行、按需扩缩容和统一运维。项目基于 controller-runtime 构建，天然兼容 kubectl、GitOps 和 Helm 工作流，适合已有 K8s 基础设施、希望把 LLM 推理服务标准化交付的团队。当前星标约 242，属于早期项目，API 与功能仍在演进。