stopes 是数据集领域的开源项目,由 facebookresearch 开发,2022 年首次发布。
它收录于数据集分类,该分类目前共有 279 个项目,GitHub 星标数为 312。
项目仍在小幅维护中,最近一次代码更新于 2026-09-24。开源库,MIT许可证,完全免费,无付费版本。
它主要面向的使用场景是:构建低资源语言的机器翻译训练数据集。同类可对比的替代方案包括 LASER、fastText、Moses。

一键准备多语言翻译数据,从清洗到挖掘平行语料
stopes 是由 Meta AI 的 FAIR NLLB 团队开发的数据集准备库,专为机器翻译研究设计。它解决的核心问题是多语言翻译数据处理的复杂性,提供从单语语料预处理到双语文本挖掘(bitext mining)的一站式工具链。其核心能力包括:大规模单语数据的清洗、过滤和去重;基于嵌入或词频的双语平行句对挖掘;支持多语言数据集的构建与平衡;以及集成 NLLB 项目的数据处理流程。该库以 Python 编写,模块化设计,便于研究人员定制流水线,尤其适合低资源语言的数据增强和语料构建。通过自动化处理,它显著降低了构建高质量翻译数据集的门槛,是 NMT 研究和应用的基础设施。
LASER、fastText、Moses
stopes 是数据集领域的开源项目,由 facebookresearch 开发,2022 年首次发布。
它收录于数据集分类,该分类目前共有 279 个项目,GitHub 星标数为 312。
项目仍在小幅维护中,最近一次代码更新于 2026-09-24。开源库,MIT许可证,完全免费,无付费版本。
它主要面向的使用场景是:构建低资源语言的机器翻译训练数据集。同类可对比的替代方案包括 LASER、fastText、Moses。
X-AnyLabeling
开源
一站式AI辅助标注,图像视频文本通吃,导出格式随心配
X-AnyLabeling: A lightweight, efficient, and unified cross-platform desktop applicat···
aisheets
开源
像用表格一样批量调 AI,不写代码就能造和改数据集
Build, enrich, and transform datasets using AI models with no code
distilabel
开源
基于论文的合成数据流水线,快速生成高质量 AI 反馈数据。
Distilabel is a framework for synthetic data and AI feedback for engineers who need ···
DataGen
开源
用大模型一键生成定制化训练数据,告别数据荒
[ICLR'25] DataGen: Unified Synthetic Dataset Generation via Large Language Models