deita

用更少的高质量数据,训出更强的对齐模型

Deita 是一个专注于数据高效指令微调的开源项目,旨在解决大语言模型对齐过程中数据质量参差不齐、训练成本高昂的问题。它通过自动筛选高质量指令数据,用更少的数据达到甚至超越传统全量微调的效果。核心能力包括:基于模型反馈的自动数据选择策略、轻量级评分模型、以及配套的微调脚本和基准测试工具。项目提供了完整的训练流程,支持从原始数据到最终模型的端到端实验,帮助研究者和开发者以更低成本构建对齐的模型。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 603
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队hkust-nlp
所属国家
官网地址
定价模式free
价格说明开源项目,Apache-2.0许可证,完全免费,可自行部署使用。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型alignment,data-centric,instruction-tuning,large-language-models
GitHub 星标★ 603
30天Star增速
HF 下载量
上线时间2023-10-26 00:00:00
最近更新2026-09-20 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数3

使用教程

核心亮点

  • 提出数据效率微调方法,显著降低训练数据量和计算成本
  • 自动数据筛选机制,无需人工标注即可识别高质量指令
  • 提供完整实验脚本和基准,便于复现和对比

不足之处

  • 文档/社区待观察
  • 依赖模型反馈评分,可能受限于基础模型能力

适用场景

  • 资源受限的团队进行大模型指令微调
  • 研究者探索数据质量对对齐效果的影响
  • 企业快速验证小规模高质量数据微调效果

替代项目

LIMA、AlpaGasus、Data-Efficient Alignment

项目介绍

deita 是模型训练领域的开源项目,由 hkust-nlp 开发,2023 年首次发布。

它收录于模型训练分类,该分类目前共有 522 个项目,GitHub 星标数为 603。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-20。Apache-2.0许可证,完全免费,可自行部署使用。

它主要面向的使用场景是:资源受限的团队进行大模型指令微调。同类可对比的替代方案包括 LIMA、AlpaGasus、Data-Efficient Alignment。

上一篇:automix

下一篇:SLED

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 62178 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1286 2026-08-13