项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 608
使用教程
环境要求
- GPU 显存 40G 以上
- 推理框架
- 指令微调数据
安装与启动步骤
-
1克隆装依赖
研究代码，装成可编辑模式方便改。
git clone https://github.com/hkust-nlp/deita.git -
2装推理引擎
打分阶段要跑大模型，得先把推理框架装上。
pip install vllm -
3三个维度分别打分
复杂度、质量、多样性各一个打分器，缺一个选出来就偏。
-
4按分数选子集
用它给的脚本挑数据，再在挑出的子集上训练。
-
5和全量训练比
同样步数下对比，才看得出选数据到底值不值。
如何确认成功
用更少的数据训出与全量训练接近的模型，且分数差距小于随机抽样的对照组
注意事项
- 它解决的是指令数据该留哪些，不是生成数据。
- 三个维度都要跑模型打分，成本不低。
- 打分器本身有偏好，换基座模型后结论可能变。
- 论文对比用的是特定评测集，换任务要重新验证。
核心亮点
- 提出数据效率微调方法，显著降低训练数据量和计算成本
- 自动数据筛选机制，无需人工标注即可识别高质量指令
- 提供完整实验脚本和基准，便于复现和对比
不足之处
- 文档/社区待观察
- 依赖模型反馈评分，可能受限于基础模型能力
适用场景
- 资源受限的团队进行大模型指令微调
- 研究者探索数据质量对对齐效果的影响
- 企业快速验证小规模高质量数据微调效果
替代项目
LIMA、AlpaGasus、Data-Efficient Alignment
同类项目推荐
deita
开源
用更少的高质量数据，训出更强的对齐模型
Deita: Data-Efficient Instruction Tuning for Alignment [ICLR2024]
Sklearn-genetic-opt
开源
用遗传算法自动调参，告别网格搜索的低效
Hyperparameter optimization and feature selection for scikit-learn using evolutionar···
LLM-RLHF-Tuning-with-PPO-and-DPO
开源
一站式跑通大模型 RLHF：SFT 到 PPO/DPO 全流程
Comprehensive toolkit for Reinforcement Learning from Human Feedback (RLHF) training···
kohya-sd-scripts-webui
开源
把 SD 模型训练变成点鼠标，不用记命令
Gradio wrapper for sd-scripts by kohya
ORLM
开源
让大模型看懂业务问题，自动写出优化模型代码
ORLM: Training Large Language Models for Optimization Modeling
lorax
开源
一个服务跑上千个微调模型，省 GPU 又省心
Multi-LoRA inference server that scales to 1000s of fine-tuned LLMs
DataFlex
开源
训练时动态挑数据，让模型学得更快更好
[NeurIPS 2026] DataFlex: A Unified Benchmark and Evaluation Platform for Data-Centri···
TSLANet
开源
轻量级时间序列全能模型，低算力搞定分类、异常检测等任务
[ICML 2024] A novel, efficient lightweight approach combining convolutional operatio···
VERONA
开源
一键搭建鲁棒性实验，快速算清模型抗干扰能力
A lightweight Python package for setting up robustness experiments and to compute ro···