Data-Preparation-Bench

用下游效果给训练数据质量打分

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 27 🐛 待处理 3 👀 关注 17
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 241
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源基准项目,免费使用

项目预览

Data-Preparation-Bench 项目界面预览图
图片来源:项目官网

项目数据

分类评测安全
开发团队OpenDCAI
定价模式🏷️完全免费
价格说明开源基准项目,免费使用
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Python
GitHub 星标★ 241
上线时间2026-03-26 00:00:00
代码更新2026-11-02
仓库体积9.9 MB
本站数据更新2026-11-07
维护状态活跃
收录时间2026-11-06
浏览次数0

项目介绍

Data-Preparation-Bench 是一个面向大模型训练数据构建的开源评测基准,重点衡量数据准备环节对下游任务效果的真实影响。它把数据构造、样本筛选与质量评估统一到同一套可复现流程中,让研究者能对比不同数据处理策略,而不是只看数据规模或单一指标。核心能力包括:提供标准化数据准备任务与评测协议,支持多种数据选择与清洗方法的接入,以下游模型表现为依据给出可比较的评分,并给出可扩展的评测脚本与配置。项目用 Python 实现,结构轻量,适合作为数据工程与数据质量研究的实验底座,也便于团队在自建数据流水线时做策略验证。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-11-06 · 当前星标 ★ 241

核心亮点

  • 以下游任务表现为评测依据,避免只看数据规模或表面指标
  • 统一数据构造、筛选与质量评估流程,便于横向对比不同策略
  • Python 实现、结构轻量,容易接入自建数据流水线做验证

不足之处

  • 早期项目,任务覆盖与评测维度仍在扩展中
  • 文档与社区生态相对有限,上手需要一定数据工程经验

适用场景

  • 比较不同数据清洗与采样策略对模型效果的影响
  • 为自建训练数据流水线做质量评估与策略选型
  • 数据工程研究中复现和对比已有数据准备方法

替代项目

Data-Juicer、datasets

上一篇:FeatureBench

下一篇:DECEIVE

同类项目推荐

MMStar 开源

更公平地测出大模型真实视觉能力,避免作弊分

[NeurIPS 2024] This repo contains evaluation code for the paper "Are We on the Right···

★ 218 2026-08-09
watchtower 开源

用 LLM 编排本地网站渗透测试,自动出报告

Watchtower is a simple AI-powered penetration testing automation CLI tool that lever···

★ 220 2026-10-21
AgentCapture 开源

给 AI 攻击代理布下诱饵,抓行为还能反制

Deception-layer honeypot that captures & reverse-controls AI pentest agents — embed···

★ 172 2026-11-05
Cognitive-Core-Skills 开源

一套标准,量化AI的认知核心技能,让模型能力可比较。

A universal, industry-neutral taxonomy of cognitive core skills (perception, memory,···

★ 143 2026-08-10
prompttools 开源

一键对比测试提示词,选对模型和参数不再靠猜

Open-source tools for prompt testing and experimentation, with support for both LLMs···

★ 3060 2026-08-09
OceanGym 开源

打造水下机器人的“健身房”,让智能体在仿真洋流中练就真本事。

[EMNLP 2026] OceanGym: A Benchmark Environment for Underwater Embodied Agents

★ 155 2026-08-09
PySODEvalToolkit 开源

一行命令批量算齐 SOD/COD 全部指标

PySODEvalToolkit: A Python-based Evaluation Toolbox for Salient Object Detection and···

★ 352 2026-09-20
eva 开源

给肿瘤AI模型打分,让对比评测不再抓瞎

Evaluation framework for oncology foundation models (FMs)

★ 175 2026-08-09
deep-eye 开源

多模型编排自动生成载荷,一键扫漏洞出合规报告

Deep Eye orchestrates multiple AI providers (OpenAI, Claude, Grok, Gemini, OLLAMA, G···

★ 2367 2026-10-29