runbooks

在K8s上声明式微调LLM,一键跑通训练全流程

Runbooks 是一个基于 Kubernetes 的 LLM 微调工具,旨在通过声明式工作流简化大语言模型的微调过程。它利用 Kubernetes 的弹性资源调度能力,将微调任务封装为可复用的运行手册(Runbooks),用户只需定义任务参数和资源需求,即可自动完成数据准备、模型训练、评估和部署等环节。该项目解决了传统微调流程中环境配置复杂、资源管理困难、难以扩展的问题,尤其适合需要频繁迭代模型的企业和研究者。核心能力包括:支持多种主流 LLM 框架、自动处理分布式训练、提供可观测的日志和指标、以及通过 Kubernetes 原生 API 集成现有 CI/CD 流程。作为早期项目,其设计理念强调易用性和可移植性,降低微调门槛,但功能完整性和生态尚在发展中。

开源 free 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 169
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类基础设施
开发团队substratusai
所属国家
定价模式free
价格说明开源项目,无在线服务,需自行部署,完全免费。
访问状态
是否开源是
开源协议NOASSERTION
主要语言Go
技术栈/模型kubernetes,kubernetes-operator,llm-inference,llm-serving,llm-training,llmops,ml-platform,mlops
GitHub 星标★ 169
30天Star增速
HF 下载量
上线时间2023-06-19 00:00:00
最近更新2026-06-04 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数5

使用教程

核心亮点

  • 原生集成Kubernetes,利用弹性资源自动扩缩容,降低算力成本
  • 声明式配置简化微调流程,无需手动管理环境依赖和分布式训练
  • 支持模型评估与部署,形成微调到上线的闭环

不足之处

  • 项目处于早期阶段,文档和社区支持有限
  • 对Kubernetes和LLM微调均有较高使用门槛

适用场景

  • 企业内私有化部署LLM微调平台
  • 科研团队在GPU集群上批量实验不同模型
  • 需要与现有K8s工作流集成的AI应用开发

替代项目

Kubeflow、Ray、Helm

项目介绍

runbooks 是模型训练领域的开源项目,由 substratusai 开发,2023 年首次发布。

它收录于模型训练分类,该分类目前共有 522 个项目,GitHub 星标数为 169。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-06-04。无在线服务,需自行部署,完全免费。

它主要面向的使用场景是:企业内私有化部署LLM微调平台。同类可对比的替代方案包括 Kubeflow、Ray、Helm。

上一篇:transformer-tricks

下一篇:LLMtuner

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 62178 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1286 2026-08-13