data_io

一键构建HR预训练数据管道,快速产出高质量语料

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 18 🐛 待处理 1 👀 关注 1
GitHub ↗
GitHub 星标 ★ 72
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0 许可证,可自由使用,无付费版本。

项目预览

data_io 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队sapientinc
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0 许可证,可自由使用,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型data,large-language-models,pretraining
GitHub 星标★ 72
上线时间2026-05-18 00:00:00
代码更新2026-09-23
仓库体积2.1 MB
本站数据更新2026-11-09
维护状态维护中
收录时间2026-08-09
浏览次数12

项目介绍

data_io 是一个面向 HRM-Text(人力资源领域文本)预训练的数据管道项目,专注于构建和清洗用于训练 HR 相关大模型的高质量文本数据集。它解决了 HR 领域预训练数据稀缺、来源分散、格式不统一的问题,提供数据采集、清洗、去重、格式化等一系列流水线处理能力。核心功能包括从多种数据源抽取文本、过滤噪声信息、标准化字段结构,并输出适合预训练模型使用的语料。项目基于 Python 实现,模块化设计便于扩展和定制,适合 HR 技术团队或研究机构用于构建领域专属预训练数据集。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 72

核心亮点

  • 专注HR领域,解决通用数据管道在专业文本上的适配问题
  • 模块化设计,各处理环节可独立使用或替换
  • 代码简洁,易于二次开发和集成到现有训练流程

不足之处

  • 文档/社区待观察
  • 项目处于早期,功能覆盖可能不全面

适用场景

  • HR领域大模型预训练数据准备
  • 人力资源文本挖掘与清洗
  • 构建行业定制化NLP训练集

替代项目

Hugging Face Datasets、Apache Beam、Luigi

上一篇:StarryDivineSky

下一篇:freshqa

同类项目推荐

prontoqa 开源

用合成问答数据,精准剖析大模型推理链条

Synthetic question-answering dataset to formally analyze the chain-of-thought output···

★ 169 2026-08-09
LLM-PuzzleTest 开源

用多模态谜题测出大模型推理短板

This repository is maintained to release dataset and models for multimodal puzzle re···

★ 122 2026-08-09
huashu-bird-sticker 开源

一万多种鸟的贴纸和多语言名字,拿来就能用

花叔开源的全球鸟类贴纸库 · AI-generated stickers for all 11,011 bird species in Avi···

★ 709 2026-11-06
arco-era5 开源

把 ERA5 气象数据转成云端 Zarr,按需秒读任意区域时段

Recipes for reproducing Analysis-Ready & Cloud Optimized (ARCO) ERA5 datasets.

★ 513 2026-09-21
RS5M 开源

下载500万遥感图文对,训练你的遥感视觉语言模型

RS5M: a large-scale vision language dataset for remote sensing [TGRS]

★ 322 2026-08-09
Project-Imaging-X 开源

一站式检索1000+医学影像数据集,快速开启基础模型训练

Project Imaging-X: A Survey of 1000+ Open-Access Medical Imaging Datasets for Founda···

★ 494 2026-08-09
VPSCI-Dataset 开源

真实车人冲突场景数据,直接喂给自动驾驶安全模型

VPSCI(Vehicle–Pedestrian Safety-Critical Interaction)Dataset

★ 391 2026-09-21
data-prep-kit 开源

一键清洗转换数据,让大模型训练更高效

Open source project for data preparation for GenAI applications

★ 968 2026-08-09
Shot2Story 开源

多镜头视频理解基准,让AI看懂镜头叙事

A new multi-shot video understanding benchmark Shot2Story with comprehensive video s···

★ 181 2026-08-09