dagster

用资产思维编排数据管道,让开发、调度、监控一体化。

Dagster 是一个面向数据资产的开源编排平台,专注于数据开发、生产和观测的全流程管理。它解决了传统数据管道工具在开发、部署和监控中割裂的问题,提供统一的开发环境、调度执行和可观测性能力。其核心能力包括:以数据资产为中心的定义模型,支持声明式依赖;可插拔的 I/O 管理器,实现数据读写抽象;内置资源系统,管理外部服务连接;以及强大的 UI 和 CLI,支持实时监控、日志查看和故障排查。Dagster 还提供软件定义资产(SDA)和作业(Job)两种抽象,兼顾资产导向和任务导向的工作流,并支持与 Airflow、dbt 等工具集成,适合构建可靠、可测试、可扩展的数据平台。

开源 free 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 16192
维护状态 活跃
是否开源 是
定价模式 free

项目数据

分类基础设施
开发团队dagster-io
所属国家
官网地址https://dagster.io
定价模式free
价格说明开源项目,Apache-2.0 许可证,可免费使用和部署。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型analytics,dagster,data-engineering,data-integration,data-orchestrator,data-pipelines,data-science,etl,metadata,mlops,orchestration,python,scheduler,workflow,workflow-automation
GitHub 星标★ 16192
30天Star增速
HF 下载量
上线时间2018-04-30 00:00:00
最近更新2026-09-22 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数2

使用教程

难度:入门 约 10 分钟 部署方式:库/依赖 5 步

环境要求

  • Python 3.9 至 3.14(README 声明的官方支持范围)
  • 已安装 uv 包管理工具(README 的安装命令基于 uv)
  • 可访问 PyPI 的网络环境
  • 若需 Web 界面,需一并安装 dagster-webserver

安装与启动步骤

  1. 1确认 Python 版本

    在终端执行命令查看版本,确保处于 README 声明的 3.9 至 3.14 支持区间,版本过低或过高都可能不兼容。

    python --version
  2. 2准备 uv 环境

    README 给出的安装命令基于 uv。若本机尚未安装 uv,请先按 uv 官方文档完成安装,再继续下一步。

  3. 3安装 Dagster 依赖

    在项目目录下执行该命令,一次性加入核心库 dagster、Web 服务 dagster-webserver 和 CLI 工具 dagster-dg-cli。

    uv add dagster dagster-webserver dagster-dg-cli
  4. 4编写首个数据资产

    Dagster 的核心用法是用 Python 函数声明数据资产,随后由其负责在合适时间运行并保持资产最新。

  5. 5跟随官方教程

    新手建议先读官方文档并完成动手教程,快速跑通一条端到端 ETL 管道后再接入真实数据。

如何确认成功

uv add 命令执行完成且无报错,dagster、dagster-webserver、dagster-dg-cli 已写入项目依赖即安装成功。

常见问题

Q:Dagster 支持哪些 Python 版本?

A:README 明确说明官方支持 Python 3.9 到 3.14,请在该区间内选择解释器版本。

Q:不想用 uv,可以用 pip 安装吗?

A:README 只给出了 uv 的安装命令,未提供 pip 写法。PyPI 上的包名为 dagster,建议以官方文档的安装说明为准。

Q:只安装 dagster 一个包可以吗?

A:README 推荐同时安装 dagster-webserver 提供 Web UI、dagster-dg-cli 提供命令行能力,三者一起装体验更完整。

Q:怎么快速上手写第一个管道?

A:README 建议查阅官方文档 docs.dagster.io 或按 ETL 管道动手教程逐步操作。

注意事项

  • README 仅提供了 uv 方式的安装命令,其他安装方式请以官方文档为准,不要自行猜测参数。
  • 本教程未包含启动 Web 服务、定义资源等命令,因为 README 节选中未给出对应说明。
  • dagster-webserver 负责界面与观测,dagster-dg-cli 负责命令行操作,两者分工不同。
  • Dagster 是云原生数据管道编排器,支持 Python 3.9 至 3.14。

核心亮点

  • 以数据资产为中心,天然支持数据血缘和依赖管理
  • 内置资源系统和 I/O 管理器,简化外部服务集成和读写抽象
  • 强大的 UI 和可观测性,实时监控管道状态和日志

不足之处

  • 学习曲线较陡,概念较多(资产、作业、资源等)
  • 文档和社区相对较小,部分高级用法示例不足

适用场景

  • 数据团队构建端到端的数据管道并需要清晰的血缘关系
  • 需要统一开发、调度和监控的复杂数据平台
  • 与 dbt、Spark 等工具结合,实现数据转换和编排

替代项目

Apache Airflow、Prefect、Luigi

项目介绍

dagster 是自动化工作流领域的开源项目,由 dagster-io 开发,2018 年首次发布。

在全站 13,014 个收录项目中,它的 GitHub 星标数(16,192)位列前 3%,在自动化工作流分类的 503 个项目里位列前 8%。

近 41 天,它的 GitHub 星标从 15,978 增加到 16,192,净增 214。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-22。Apache-2.0 许可证,可免费使用和部署。

它主要面向的使用场景是:数据团队构建端到端的数据管道并需要清晰的血缘关系。同类可对比的替代方案包括 Apache Airflow、Prefect、Luigi。

上一篇:useR2024-pipeline-workshop

下一篇:maestro

同类项目推荐

n8n 开源

拖拽搭建自动化流程,轻松接入 AI 与 400+ 应用,搞定重复工作。

Fair-code workflow automation platform with native AI capabilities. Combine visual b···

★ 205700 2026-08-10
feishu-docx 开源

让 AI 代理轻松读写飞书文档,双向转换 Markdown

Feishu/Lark Docs、Sheet、Bitable <-> Markdown | AI Agent-friendly knowledge base exp···

★ 262 2026-08-09
robotcode 开源

让 Robot Framework 拥有现代 IDE 体验,调试、补全、运行一气呵成。

Open Source Toolkit for Robot Framework, providing Language Server Protocol support,···

★ 301 2026-08-10
puppeteer 开源

用 JavaScript 轻松操控无头浏览器,搞定自动化测试与网页抓取。

JavaScript API for Chrome and Firefox

★ 95609 2026-08-10