DS2

用 LLM 评分自动筛数据,少数据也能训出好模型

DS2 是 ICLR 2025 论文《Improving Data Efficiency via Curating LLM-Driven Rating Systems》的官方实现,旨在通过大语言模型驱动的评分系统来提升数据效率。它解决的核心问题是:在训练或微调大模型时,如何用更少的数据达到更好的效果。项目提供了一套基于 LLM 的自动数据策展流程,利用评分机制筛选和优化训练数据,从而减少人工标注成本,提高数据利用效率。核心能力包括数据评分、筛选和迭代优化,适用于数据清洗、小样本学习等场景。项目处于早期阶段,代码库结构清晰,但文档和社区支持尚待完善。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 102
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队UCSC-REAL
所属国家
官网地址
定价模式free
价格说明开源项目,Apache-2.0许可,可自由使用,无付费版本。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型data-curation,data-efficiency,instruction-tuning,large-language-models
GitHub 星标★ 102
30天Star增速
HF 下载量
上线时间2025-02-11 00:00:00
最近更新2026-09-07 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数5

使用教程

核心亮点

  • 基于 ICLR 2025 前沿研究,方法有理论支撑
  • 直接解决数据效率痛点,可降低训练成本
  • 官方实现,代码与论文对齐,便于复现

不足之处

  • 项目早期,文档和社区支持待观察
  • 依赖 LLM 评分,可能引入额外计算开销

适用场景

  • 大模型微调前的数据清洗与筛选
  • 小样本场景下提升模型训练效果
  • 自动化数据策展流水线构建

替代项目

DataComp、TinyLLM、LIMA

项目介绍

DS2 是模型训练领域的开源项目,由 UCSC-REAL 开发,2025 年首次发布。

它收录于模型训练分类,该分类目前共有 522 个项目,GitHub 星标数为 102。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-07。Apache-2.0许可,可自由使用,无付费版本。

它主要面向的使用场景是:大模型微调前的数据清洗与筛选。同类可对比的替代方案包括 DataComp、TinyLLM、LIMA。

上一篇:Awesome-Quantization-Papers

下一篇:CAME

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 62178 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1286 2026-08-13