awesome-data-llm

一张清单看懂大模型数据从哪来、怎么洗、怎么配

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 数据集 🍴 复刻 78 👀 关注 10
GitHub ↗
GitHub 星标 ★ 835
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,论文配套资源

项目预览

awesome-data-llm 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类数据集
开发团队OpenDataBox
定价模式🏷️完全免费
价格说明开源免费,论文配套资源
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
技术栈/模型data-acquisition,data-deduplication,data-filtering,data-mixing,data-provenance,data-selection,data-synthesis,data-transformation,llm,vlm
GitHub 星标★ 835
上线时间2024-08-04 00:00:00
代码更新2026-10-25
仓库体积118.1 MB
本站数据更新2026-10-29
维护状态活跃
收录时间2026-10-29
浏览次数0

项目介绍

awesome-data-llm 是论文《LLM × DATA》的官方仓库,以清单形式系统梳理大语言模型训练数据全生命周期的关键环节,覆盖数据获取、去重、过滤、配比、溯源、选择、合成与转换等主题。它解决的是研究者和工程师在构建数据管线时资料分散、术语不统一、难以快速定位方法与工具的问题。核心能力包括:按数据流程阶段组织相关论文、方法与资源,提供统一的概念框架和分类视角,帮助读者从数据来源到最终训练集形成完整认知;同时作为综述论文的配套索引,便于按主题检索和延伸阅读。项目本身以资料聚合为主,不提供可直接运行的代码或数据处理工具,更适合作为数据工程与数据为中心 AI 研究的入门地图和选型参考。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-29 · 当前星标 ★ 835

技术标签

核心亮点

  • 按数据获取、去重、过滤、配比、溯源等阶段分类组织,结构清晰,便于按管线环节查找资料
  • 作为综述论文官方仓库,概念框架统一,适合快速建立 LLM 数据工程的全局认知
  • 覆盖数据合成与转换等较新方向,能帮助读者发现容易被忽略的环节

不足之处

  • 以链接和文献索引为主,缺少可直接运行的代码或工具链
  • 项目早期,分类粒度和条目完整性可能随论文更新而变化
  • 文档/社区待观察

适用场景

  • 数据工程师规划大模型预训练数据管线时,按阶段查找去重、过滤、配比方法
  • 研究人员撰写数据为中心 AI 相关论文时,快速定位综述框架与参考文献
  • 团队新人入门 LLM 数据工程,建立从数据获取到训练集构建的整体认知

替代项目

awesome-llm、Data-Juicer、awesome-data-centric-ai

上一篇:somali-nlp-corpus

下一篇:LLM-Synthetic-Data

同类项目推荐

RS5M 开源

下载500万遥感图文对,训练你的遥感视觉语言模型

RS5M: a large-scale vision language dataset for remote sensing [TGRS]

★ 321 2026-08-09
APSD 开源

看穿对抗攻击:用视觉标准量化扰动隐蔽性

Official dataset for “Stealthiness Assessment of Adversarial Perturbation: From a V···

★ 11 2026-09-05
ObjaversePlusPlus 开源

想要高质量3D数据?Objaverse++ 帮你筛选出精品,训练效果更稳。

[ICCV 2025] Repo for Objaverse++, Curated 3D Object Dataset with Quality Annotations

★ 116 2026-08-09
OntoAligner 开源

上传两个本体,一键生成语义映射关系。

OntoAligner: A Python Toolkit for Ontology Alignment https://pypi.org/project/OntoAl···

★ 98 2026-08-09
freshqa 开源

测测你的AI模型,能否答对最新鲜的问题

Data and code for FreshLLMs (https://arxiv.org/abs/2310.03214)

★ 404 2026-08-09
DataDesigner 开源

从零或种子数据一键生成高质量合成数据,加速 AI 训练

NeMo Data Designer: Generate high-quality synthetic data from scratch or from seed d···

★ 2378 2026-08-09
potato 开源

便携式多模态标注工具,集成智能代理,让标注更高效。

potato: the portable annotation tool

★ 439 2026-08-10
Shot2Story 开源

多镜头视频理解基准,让AI看懂镜头叙事

A new multi-shot video understanding benchmark Shot2Story with comprehensive video s···

★ 181 2026-08-09