datasets

一行代码加载海量数据集，高效处理 AI 数据

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 3616 🐛 待处理 1600 👀 关注 283

GitHub ↗

GitHub 星标 ★ 22117

维护状态活跃

是否开源开源

定价模式 🏷️完全免费开源项目，Apache-2.0许可证，完全免费，无付费版本。

项目预览

项目数据

分类开源模型

开发团队huggingface

GitHubhttps://github.com/huggingface/datasets

定价模式🏷️完全免费

价格说明开源项目，Apache-2.0许可证，完全免费，无付费版本。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型ai,artificial-intelligence,computer-vision,dataset-hub,datasets,deep-learning,huggingface,llm,machine-learning,natural-language-processing,nlp,numpy,pandas,pytorch,speech,tensorflow

GitHub 星标★ 22117

上线时间2020-03-26 00:00:00

代码更新2026-11-06

仓库体积113.7 MB

本站数据更新2026-11-09

维护状态活跃

收录时间2026-08-09

浏览次数11

项目介绍

datasets 是 Hugging Face 推出的开源数据集库，旨在成为 AI 模型就绪数据集的中心枢纽。它解决了机器学习从业者在数据获取、处理和加载过程中面临的碎片化、低效问题，提供统一、快速且易用的数据操作工具。核心能力包括：通过一行代码从 Hugging Face Hub 加载数千个公开数据集，支持流式处理超大规模数据而无需下载到本地，内置高效的内存映射机制和缓存系统，提供类似 pandas 的 API 进行数据筛选、映射、排序等操作，并支持与 PyTorch、TensorFlow 等主流框架无缝集成。该库还支持数据集切片、切分、去重、文本处理等常见预处理任务，并允许用户轻松构建自定义数据集。其设计强调性能与易用性，已成为 Hugging Face 生态中数据准备的标准组件。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 22117

技术标签

ai artificial-intelligence computer-vision datasets deep-learning

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：入门约 10 分钟部署方式：库/依赖 4 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

Python 运行环境（README 未标注具体版本）
网络可访问 Hugging Face Hub（用于加载公开数据集）
已安装 datasets 包后可直接在 Python 脚本或 Notebook 中调用

安装与启动步骤

1安装 datasets 包

README 的 Installation 章节为空，未给出安装命令；此处按其包名 datasets 安装，若已有环境可跳过。
```
pip install datasets
```
2导入核心函数

README 的 Quick Start 只演示了一个入口：从 datasets 包导入 load_dataset 函数。
```
from datasets import load_dataset
```
3加载数据集

调用 load_dataset(dataset_name, **kwargs) 实例化数据集，把 dataset_name 换成目标数据集标识。
```
ds = load_dataset(dataset_name)
```
4查阅官方文档

README 给出的完整文档地址为 huggingface.co/docs/datasets，可按需查看参数与用法。