arco-era5

把 ERA5 气象数据转成云端 Zarr,按需秒读任意区域时段

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 数据集 🍴 复刻 43 🐛 待处理 24 👀 关注 17
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 513
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,数据托管于Google公共数据集

项目预览

arco-era5 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类数据集
开发团队google-research
定价模式🏷️完全免费
价格说明开源免费,数据托管于Google公共数据集
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型cloud-optimized,ecmwf,era5,open-science,zarr
GitHub 星标★ 513
上线时间2022-05-05 00:00:00
代码更新2026-10-13
仓库体积8.0 MB
本站数据更新2026-11-05
维护状态较活跃
收录时间2026-09-21
浏览次数6

项目介绍

arco-era5 是 Google Research 开源的配方仓库,用于把 ECMWF 的 ERA5 再分析数据(全球气象历史数据,含温度、风、气压、降水等变量)转换成 Analysis-Ready & Cloud Optimized(ARCO)格式。传统 ERA5 以 GRIB/NetCDF 分发,单变量单时刻文件多、下载慢、解压重,做气候分析前往往要花大量时间做格式转换和索引。本项目提供可复现的 Python 脚本与工作流,把原始数据重写成 Zarr 格式并上传到云存储,实现按需分块读取、并行加载和直接切片,无需整份下载。核心能力包括:批量转换 ERA5 各压力层与地面变量、生成云优化分块、保留时间与空间维度索引,让研究者用 xarray 一行代码即可拉取任意区域和时段。它本身不是数据服务,而是可复现的数据生产管线,适合需要自建 ERA5 云数据集的团队参考。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-21 · 当前星标 ★ 513

使用教程

难度:进阶 约 60 分钟 部署方式:无需部署 5 步

环境要求

  • Python 数据分析环境
  • 云平台账号(可选)

安装与启动步骤

  1. 1先搞清它给的是什么

    它给的是数据的云端副本与复现配方,不是模型。

  2. 2直接用现成的云端数据

    数据已在公共数据集里,自己造不如直接读。

  3. 3跑一个示例笔记本

    仓库主角是一组笔记本,先用它跑通。

  4. 4要自己造才走复现流程

    复现消耗算力与存储都很大,先算成本。

  5. 5核对引用与许可

    论文引用格式与许可条款都在仓库里写明了。

如何确认成功

用仓库里的笔记本能读到一个时间段的全球再分析数据并画出变量分布,且引用信息与许可条款能对应上

注意事项

  • 它把气象再分析数据整理成云端可直接读取的格式,并提供复现配方。
  • 数据本体在公共数据集里,直接用比自己造便宜几个数量级。
  • 复现流程成本高,别拿它当入门练习。
  • 学术使用请按仓库给的格式引用。

核心亮点

  • 提供完整可复现的转换脚本,覆盖 ERA5 多变量与压力层,直接产出 Zarr 云优化格式
  • 基于 xarray/dask 生态,转换后可并行分块读取,避免下载整份 GRIB 再本地解压
  • 由 Google Research 维护,与公开的 ARCO-ERA5 云数据集对应,工程实践参考价值高

不足之处

  • 仓库以配方脚本为主,不含现成数据服务,使用者仍需自备云存储与计算资源
  • 依赖 ECMWF 原始数据获取权限与较大磁盘/带宽,个人小规模复现门槛不低

适用场景

  • 气候科研团队自建云端 ERA5 数据集,供组内成员按区域时段快速切片分析
  • 气象 AI 训练前批量生成云优化训练样本,加速数据加载与迭代
  • 数据工程团队参考其 Zarr 分块与转换流程,迁移到其他再分析数据产品

替代项目

pangeo-forge-recipes、xarray

上一篇:plinder

下一篇:awesome-legal-data

同类项目推荐

Awesome-LLM4RS-Papers 开源

一页看懂LLM+推荐系统论文全景,紧跟前沿不迷路

Large Language Model-enhanced Recommender System Papers

★ 766 2026-08-09
OmniWorld 开源

用多模态4D数据,训练能理解空间动态的世界模型

[ICLR 2026] OmniWorld: A Multi-Domain and Multi-Modal Dataset for 4D World Modeling

★ 505 2026-08-09
MultiHop-RAG 开源

跨文档多跳问答评测,暴露RAG推理短板

Repository for "MultiHop-RAG: A Dataset for Evaluating Retrieval-Augmented Generatio···

★ 477 2026-10-02
synthetic-data-kit 开源

一键生成高质量合成数据,告别数据短缺和隐私烦恼

Tool for generating high quality Synthetic datasets

★ 1650 2026-08-09
cv-dataset 开源

查 Common Voice 各语言版本元数据,一键定位训练语料

Metadata and versioning details for the Common Voice dataset

★ 178 2026-09-21
paper-list 开源

自动追踪最新论文,省去手动搜索时间

autoupdate paper list

★ 169 2026-08-09
batchgenerators 开源

医学图像训练数据太少?一行管道批量增强2D/3D图像与标签

A framework for data augmentation for 2D and 3D image classification and segmentatio···

★ 1177 2026-10-15
car-logos-dataset 开源

387个汽车品牌Logo配JSON索引,前端直接调用

Collection of 387 car logos images with few variations of sizes and JSON file for b···

★ 271 2026-11-02
data-prep-kit 开源

一键清洗转换数据,让大模型训练更高效

Open source project for data preparation for GenAI applications

★ 968 2026-08-09