runbooks

在K8s上声明式微调LLM,一键跑通训练全流程

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 14 🐛 待处理 63 👀 关注 1 ⚠️ 作者已归档(停止维护)
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 169
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,无在线服务,需自行部署,完全免费。

项目预览

runbooks 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队substratusai
定价模式🏷️完全免费
价格说明开源项目,无在线服务,需自行部署,完全免费。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议NOASSERTION
主要语言Go
技术栈/模型kubernetes,kubernetes-operator,llm-inference,llm-serving,llm-training,llmops,ml-platform,mlops
GitHub 星标★ 169
上线时间2023-06-19 00:00:00
代码更新2024-08-28
仓库体积5.3 MB
本站数据更新2026-11-11
维护状态低维护
收录时间2026-08-09
浏览次数6

项目介绍

Runbooks 是一个基于 Kubernetes 的 LLM 微调工具,旨在通过声明式工作流简化大语言模型的微调过程。它利用 Kubernetes 的弹性资源调度能力,将微调任务封装为可复用的运行手册(Runbooks),用户只需定义任务参数和资源需求,即可自动完成数据准备、模型训练、评估和部署等环节。该项目解决了传统微调流程中环境配置复杂、资源管理困难、难以扩展的问题,尤其适合需要频繁迭代模型的企业和研究者。核心能力包括:支持多种主流 LLM 框架、自动处理分布式训练、提供可观测的日志和指标、以及通过 Kubernetes 原生 API 集成现有 CI/CD 流程。作为早期项目,其设计理念强调易用性和可移植性,降低微调门槛,但功能完整性和生态尚在发展中。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 169

核心亮点

  • 原生集成Kubernetes,利用弹性资源自动扩缩容,降低算力成本
  • 声明式配置简化微调流程,无需手动管理环境依赖和分布式训练
  • 支持模型评估与部署,形成微调到上线的闭环

不足之处

  • 项目处于早期阶段,文档和社区支持有限
  • 对Kubernetes和LLM微调均有较高使用门槛

适用场景

  • 企业内私有化部署LLM微调平台
  • 科研团队在GPU集群上批量实验不同模型
  • 需要与现有K8s工作流集成的AI应用开发

替代项目

Kubeflow、Ray、Helm

上一篇:transformer-tricks

下一篇:LLMtuner

同类项目推荐

Aurora 开源

统一多模态时间序列预测,一个模型搞定数值文本图像

[ICLR 2026] Aurora: Towards Universal Generative Multimodal Time Series Forecasting

★ 81 2026-08-09
AlphaEdit 开源

不改模型结构,精准修改大模型知识,性能不塌方

AlphaEdit: Null-Space Constrained Knowledge Editing for Language Models, ICLR 2025 (···

★ 469 2026-08-09
DiffusionART 开源

给扩散模型做稳定高效的强化学习后训练

Official Implementation of "DiffusionART: Efficient, Stable and Scalable Reinforceme···

★ 229 2026-10-21
diffusion-pipe 开源

多卡流水线并行,低显存也能训大扩散模型

A pipeline parallel training script for diffusion models.

★ 2036 2026-10-12
olmoearth_pretrain 开源

用卫星数据预训练地球基础模型,开箱即用

Earth system foundation model data, training, and eval

★ 366 2026-09-14
SepLLM 开源

压缩冗余片段,让大模型推理快 2.5 倍

[ICML 2025] "SepLLM: Accelerate Large Language Models by Compressing One Segment int···

★ 573 2026-08-09
Lora-for-Diffusers 开源

手把手教你用LoRA微调扩散模型,从入门到实战

The most easy-to-understand tutorial for using LoRA (Low-Rank Adaptation) within dif···

★ 820 2026-08-09
TreeLoRA 开源

用树状 LoRA 分层管理任务,持续学习不遗忘

[ICML 2025] A pytorch implementation of the paper "TreeLoRA: Efficient Continual Lea···

★ 350 2026-08-09
rapidfireai 开源

拖拽式搞定 AI 定制,从 RAG 到微调一键加速

RapidFire AI: Rapid AI Customization from RAG to Fine-Tuning

★ 176 2026-08-09