ollama-helm

一条 helm 命令，把 Ollama 大模型服务部署进 K8s 集群

开源 free 基础设施

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 592

维护状态活跃

是否开源是

定价模式 free

项目预览

项目数据

分类基础设施

开发团队otwld

所属国家

官网地址https://artifacthub.io/packages/helm/ollama-helm/ollama

GitHubhttps://github.com/otwld/ollama-helm

定价模式free

价格说明开源免费，遵循 MIT 许可证

访问状态

是否开源是

开源协议MIT

主要语言Go Template

技术栈/模型helm,kubernetes,ollama

GitHub 星标★ 592

30天Star增速

HF 下载量

上线时间2023-11-18 00:00:00

代码更新—

仓库体积—

本站数据更新—

维护状态活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-10-15

浏览次数0

项目介绍

ollama-helm 是为 Ollama 提供 Kubernetes 部署能力的 Helm Chart 项目。Ollama 是一个本地运行大语言模型的工具，支持 Llama、Mistral、Gemma 等模型，但默认以单机进程方式运行，难以在集群中统一管理。本项目把 Ollama 打包成标准 Helm Chart，让用户用一条 helm install 命令就能在 K8s 上创建 Deployment、Service、持久化存储和资源配置，解决模型文件持久化、GPU 调度、副本伸缩、服务暴露等运维问题。核心能力包括：可配置的镜像与版本、模型自动拉取、PVC 挂载避免重复下载、resources 与 nodeSelector 调度、Ingress/Service 对外暴露 API，以及 values.yaml 集中管理参数。适合已有 Kubernetes 基础设施、希望把 Ollama 作为集群内推理服务统一运维的团队。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

正在加载星标数据…

技术标签

使用教程

—

核心亮点

用标准 Helm Chart 封装 Ollama，一条命令完成 K8s 部署，省去手写 Deployment/Service 的重复工作
支持 PVC 持久化模型文件，Pod 重建后无需重新下载模型，节省带宽和启动时间
values.yaml 集中暴露镜像、资源、调度、服务等参数，便于按环境定制和 GitOps 管理

不足之处

项目仍处早期，592 星规模较小，文档和社区案例相对有限
Chart 主要覆盖单机 Ollama 部署，多副本共享模型、GPU 池化等高级场景支持有限

适用场景

在已有 K8s 集群中快速搭建内部 LLM 推理 API 服务
用 GitOps（如 ArgoCD）管理 Ollama 的版本升级与配置变更
为团队提供统一入口的模型服务，配合 Ingress 供其他微服务调用

替代项目

vLLM、LocalAI

上一篇：VidCom2

下一篇：ollamafreeapi