Curator

让 LLM 训练数据又快又干净，一键搞定预处理

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 368 🐛 待处理 297 👀 关注 19

GitHub ↗

GitHub 星标 ★ 1856

维护状态活跃

是否开源开源

定价模式 🏷️完全免费开源项目，Apache-2.0许可证，可免费使用和部署。

项目预览

项目数据

分类开源模型

开发团队NVIDIA-NeMo

GitHubhttps://github.com/NVIDIA-NeMo/Curator

定价模式🏷️完全免费

价格说明开源项目，Apache-2.0许可证，可免费使用和部署。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型data,data-curation,data-prep,data-preparation,data-processing,data-processing-pipelines,data-quality,datacuration,datarecipes,deduplication,fast-data-processing,fine-tuning,large-language-models,large-scale-data-processing,llm,llm-data-quality,llmapps,python,semantic-deduplication

GitHub 星标★ 1856

上线时间2024-03-14 00:00:00

代码更新2026-11-09

仓库体积90.9 MB

本站数据更新2026-11-09

维护状态活跃

收录时间2026-08-09

浏览次数14

项目介绍

Curator 是一个面向大型语言模型（LLM）的可扩展数据预处理与清洗工具包。它旨在解决 LLM 训练和微调中数据质量参差不齐、处理流程繁琐低效的问题。Curator 提供了一套模块化的数据处理流水线，支持数据去重、过滤、格式化、质量评估等常见操作，并针对大规模数据集进行了性能优化，能够并行处理海量数据。其核心能力包括灵活的数据源接入、可定制的处理规则、以及高效的分布式执行引擎，帮助开发者快速构建高质量的训练数据集，从而提升模型训练效果。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1856

技术标签

data data-processing data-quality fine-tuning large-language-models

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：入门约 10 分钟部署方式：库/依赖 5 步

环境要求

Python 环境（具体支持版本见项目根目录 pyproject.toml 或 PyPI 页面徽章）
uv 包管理器（官方指定用它来做安装）
若处理视频/音频数据，需具备系统编解码库，或改用官方 Docker 容器
GPU 相关流水线需 NVIDIA GPU 环境（README 将 CPU、GPU、Docker、源码列为不同的安装路径）

安装与启动步骤

1安装 uv 包管理器

NeMo Curator 官方指定使用 uv 进行安装，README 要求先装好它再走后续流程。命令会从 astral.sh 下载并安装 uv。
```
curl -LsSf https://astral.sh/uv/install.sh | sh
```
2核对版本要求

支持的 Python 版本与依赖版本统一写在 pyproject.toml 中，README 不再重复罗列，Python 版本也可从 PyPI 徽章查看，安装前先确认本机版本匹配。
3按硬件选择安装路径

README 把安装分为 CPU、GPU、Docker、源码等路径，并指向官方 Installation Guide。请按自己的硬件条件打开对应章节照做，不要混用。
4音视频场景走容器

视频和音频流水线依赖系统编解码库，官方发布的 NGC 容器已预配置好这些依赖，官方建议这类场景直接用容器运行。
5集群环境部署

如需在 Slurm、Kubernetes 或多节点集群上运行，README 指向 Infrastructure 文档，其中给出了这些基础设施的部署参考。