dstack

一套编排,跑遍所有GPU环境,训练推理不发愁

开源 🏷️定价信息待确认 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 273 🐛 待处理 65 👀 关注 14
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 2308
维护状态 活跃
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

dstack 项目界面预览图
图片来源:项目官网

项目数据

分类基础设施
开发团队dstackai
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MPL-2.0
主要语言Python
技术栈/模型agent-skills,agentic-orchestration,amd,cloud,containers,docker,fine-tuning,gpu,inference,k8s,kubernetes,llms,machine-learning,nvidia,orchestration,python,slurm,training
GitHub 星标★ 2308
上线时间2022-01-04 00:00:00
代码更新2026-11-06
仓库体积129.4 MB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-10
浏览次数8

项目介绍

dstack 是一个厂商中立的编排平台,专为 AI 训练、推理和智能体工作负载设计。它解决了 AI 团队在混合基础设施(云、Kubernetes、裸金属)上运行 GPU 任务时面临的配置复杂、供应商锁定和资源管理低效问题。核心能力包括:通过统一 API 和 CLI 定义并提交任务,自动调度到 NVIDIA、AMD、TPU 或 Tenstorrent 等不同硬件;支持 Docker 容器化环境,简化依赖管理;提供任务队列、自动扩缩容和成本优化;内置对智能体工作流的编排支持,可与主流框架集成。dstack 强调可移植性,让用户无需修改代码即可在本地、云或自建集群间切换,特别适合需要灵活利用异构 GPU 资源的团队。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 2308

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:入门 约 10 分钟 部署方式:命令行工具 6 步

环境要求

  • Git(CLI 依赖,README 明确要求)
  • OpenSSH(CLI 依赖,README 明确要求)
  • uv 工具(用于安装 dstack CLI)
  • 可访问的 dstack 服务器地址,例如 http://127.0.0.1:3000
  • Node.js/npx(仅在使用 npx skills 安装 agent skills 时需要)

安装与启动步骤

  1. 1准备前置依赖

    README 说明 CLI 可装在 Linux、macOS、Windows,且依赖 Git 和 OpenSSH,请先确认两者已可用。README 未给出安装命令。

  2. 2安装 dstack CLI

    使用 uv 工具安装或升级 dstack 命令行客户端,安装后即可在终端调用 dstack 命令。

    uv tool install dstack -U
  3. 3添加项目连接服务器

    把 CLI 指向 dstack 服务器,需提供服务地址、用户 token 和项目名,命令执行后会更新本地配置。

    dstack project add --name main --url http://127.0.0.1:3000 --token bbae0f28-d3dd-4820-bf61-8f4bb40815da
  4. 4安装 agent skills

    可选步骤,安装 dstack 技能包,让 Claude、Codex、Cursor 等 AI 代理代为创建 fleet、提交任务。

    npx skills add dstackai/dstack
  5. 5编写 YAML 配置

    在代码仓库中以 YAML 定义 Fleet、Dev environment、Task、Service、Preset 或 Volume 等配置。

  6. 6应用配置

    用 dstack apply 提交配置,平台自动处理资源供给、排队、扩缩容、网络与卷等。具体参数见官方文档。

    dstack apply

关键配置

配置项必填说明示例
--name是dstack 项目名称,用于区分不同项目main
--url是dstack 服务器访问地址http://127.0.0.1:3000
--token是访问服务器的用户 token,示例值需替换为自己的bbae0f28-d3dd-4820-bf61-8f4bb40815da
~/.dstack/config.yml否CLI 本地配置文件,执行 project add 后自动写入~/.dstack/config.yml
YAML 配置文件否仓库中定义 Fleet、Task、Service 等资源的配置文件config.yaml

如何确认成功

执行 dstack project add 后提示 Configuration is updated at ~/.dstack/config.yml,且该文件含项目名、URL 与 token,即表示 CLI 已连上服务器。

常见问题

Q:dstack CLI 支持哪些系统,需要什么依赖?

A:README 说明 CLI 可安装在 Linux、macOS 和 Windows,并且依赖 Git 和 OpenSSH,请先确保这两者安装可用。

Q:如何让 CLI 连接到 dstack 服务器?

A:使用 dstack project add,提供 --name 项目名、--url 服务器地址和 --token 用户 token,配置会写入 ~/.dstack/config.yml。

Q:怎么让 AI 代理帮我管理任务?

A:执行 npx skills add dstackai/dstack 安装 dstack skills,之后 Claude、Codex、Cursor 等代理即可创建 fleet 并提交工作负载。

Q:配置写在哪里?

A:dstack 的配置以 YAML 文件形式放在你的代码仓库中,涵盖 Fleets、Dev environments、Tasks、Services、Presets、Volumes。

Q:怎么把配置提交运行?

A:通过 dstack apply 命令、编程 API 或 AI agent skills 来应用配置,平台会自动处理供给、排队、扩缩容和失败重试。

注意事项

  • README 节选未给出服务器端的安装命令,服务器部署需参考官方文档 https://dstack.ai/docs
  • 示例 token bbae0f28-d3dd-4820-bf61-8f4bb40815da 仅为演示值,请替换为你自己的 token
  • dstack apply 的具体参数(配置文件路径等)README 未说明,请以官方文档为准
  • CLI 配置保存在 ~/.dstack/config.yml,换服务器或项目时需重新执行 dstack project add

核心亮点

  • 真正厂商中立,同时支持NVIDIA、AMD、TPU和Tenstorrent,避免硬件锁定
  • 统一抽象层,一套配置即可在云、K8s和裸金属上运行,迁移成本低
  • 专为AI设计,内置训练、推理和智能体工作流的编排原语,非通用调度器硬改

不足之处

  • 项目较年轻,社区生态和文档成熟度待观察
  • 高级功能(如复杂扩缩容策略)可能需要依赖外部K8s技能

适用场景

  • AI团队需要混合使用多云GPU资源,统一管理训练任务
  • 在本地开发环境与云端集群之间无缝切换,加速实验迭代
  • 运行需要多步协调的智能体工作流,且希望底层硬件可替换

替代项目

Kubeflow、Ray、Run:ai

上一篇:ort

下一篇:sonar

同类项目推荐

ComfyUI-Installer 开源

Linux 上一键装好 ComfyUI,省去手动配环境的麻烦。

Easily install ComfyUI on a Linux system. Installs completely inside a Python venv.

★ 54 2026-08-09
OmniInfer 开源

一套 Rust 接口,把 AI 模型跑上各种边缘设备

Unified, efficient, and easy-to-use inference infrastructure for edge AI || 面向端侧···

★ 1297 2026-10-31
tokentelemetry 开源

本地追踪 AI 智能体令牌消耗,成本一目了然

Token telemetry dashboard for AI autonomous and coding agents — tracks tokens, sess···

★ 385 2026-08-09
semantica 开源

知识串成图谱,AI 回答有据可查能追责

Graph-Native Infrastructure for Context and Accountable AI Systems

★ 14491 2026-08-09
vllm-ultimate-dgx-spark 开源

DGX Spark 新硬件开箱即跑 vLLM 推理镜像

AEON vLLM Ultimate — vLLM 0.27.1 built from source for DGX Spark / Blackwell (sm_12···

★ 149 2026-10-28
llmix 开源

不改代码,热切换模型,自动加缓存重试熔断,让 LLM 调用更稳更省。

Production LLM call layer for AI agents and tools: keep OpenAI/Anthropic/AI SDK/Lite···

★ 128 2026-08-09
ai-beehive 开源

一个 Java 网关,统一接入 ChatGPT、Midjourney 等 AI 服务,省去多平台对接麻烦。

AI 蜂巢,基于 Java 使用 Spring Boot 3 和 JDK 17,支持的功能有 ChatGPT、OpenAi Image、···

★ 2210 2026-08-09
traceml 开源

一站式追踪 ML 实验、漂移与可解释性,让模型监控更省心

Engine for AI/ML/Data tracking, visualization, explainability, drift detection, and ···

★ 533 2026-08-09