DS-1000

用真实数据科学题测出大模型写代码的真实水平

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 31 🐛 待处理 5 👀 关注 7
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 278
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源基准测试数据集及代码,基于CC-BY-SA-4.0许可证,完全免费使用。

项目预览

DS-1000 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队xlang-ai
定价模式🏷️完全免费
价格说明开源基准测试数据集及代码,基于CC-BY-SA-4.0许可证,完全免费使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议CC-BY-SA-4.0
主要语言Python
技术栈/模型benchmark,code-generation,data-science,large-language-models,semantic-parsing
GitHub 星标★ 278
上线时间2022-11-15 00:00:00
代码更新2024-10-30
仓库体积225.0 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数8

项目介绍

DS-1000 是一个面向数据科学场景的代码生成基准测试集,由 ICML 2023 论文团队发布。它包含 1000 个真实世界的数据科学问题,覆盖 Pandas、NumPy、Matplotlib、Scikit-learn 等主流库,每个问题都配有自然语言描述、输入输出示例和验证脚本。该基准旨在解决现有代码生成评测中任务过于简单、与真实数据科学工作流脱节的问题,通过引入复杂的数据操作、可视化绘制和机器学习建模任务,更可靠地评估大语言模型在数据科学代码生成上的实际能力。项目提供了完整的数据集、评估代码和基线模型结果,方便研究者复现和扩展。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 278

核心亮点

  • 题目全部来自真实数据科学场景,非人工拼凑,更贴近实际开发
  • 内置自动验证脚本,能客观评估代码正确性,避免人工判分偏差
  • 覆盖 Pandas、NumPy 等多个常用库,测试面广,可细分能力短板

不足之处

  • 数据集规模有限(1000题),对模型能力的区分度可能不够精细
  • 文档和社区支持相对薄弱,上手使用需要一定研究成本

适用场景

  • 评测大语言模型在数据科学代码生成上的能力
  • 对比不同模型或提示策略在真实数据任务上的表现
  • 作为训练数据或微调参考,提升模型的数据科学代码能力

替代项目

HumanEval、MBPP、APPS

上一篇:SelfAware

下一篇:ClassEval

同类项目推荐

helm 开源

一站式跑分对比大模型,多维度评测可复现

Holistic Evaluation of Language Models (HELM) is an open source Python framework cre···

★ 2969 2026-09-15
dynolab 开源

Mac 本地跑 AI 可解释性实验,激活探针 SAE 一站搞定

Dyno Lab — an AI safety, alignment and interpretability research workbench for Appl···

★ 153 2026-09-27
dodoguard 开源

给 AI Agent 加一道全流程安全护栏,防注入防越权

DodoGuard: Take AI Agents to Production. Test, validate, and operate AI Agents befor···

★ 276 2026-09-15
evalstats 开源

小样本评测也能算出模型差异是否真实

Statistical inference for AI evaluations, from model comparisons to corrections for ···

★ 132 2026-09-14
speca 开源

把规范文档自动变成审计清单,逐条核查代码

SPECA: Specification-to-Checklist Agentic Auditing Framework

★ 463 2026-11-03
WorldLens 开源

给自动驾驶世界模型做全科体检,从生成到重建一测到底

[CVPR 2026 Oral] WorldLens: Full-Spectrum Evaluations of Driving World Models in Rea···

★ 258 2026-08-09
MisguidedAttention 开源

用误导性提示词,测出大模型推理的短板

A collection of prompts to challenge the reasoning abilities of large language model···

★ 489 2026-08-09
agent-skills-eval 开源

跑一遍测试,就知道你的 AI 技能行不行

A test runner for agentskills.io-style AI agent skills

★ 813 2026-08-09