deepfabric

一条流水线搞定合成数据生成、训练与评估

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 数据集 🍴 复刻 84 🐛 待处理 23 👀 关注 8
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 897
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0 许可证,可免费使用和部署。

项目预览

deepfabric 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类数据集
开发团队nolabs-ai
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0 许可证,可免费使用和部署。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型agents,ai,data-science,dataset,distillation,evaluation,fine-tuning,huggingface,huggingface-datasets,machine-learning,open,open-source,python,source,synthetic,synthetic-data,unsloth
GitHub 星标★ 897
上线时间2024-10-25 00:00:00
代码更新2026-11-06
仓库体积80.9 MB
本站数据更新2026-11-10
维护状态活跃
收录时间2026-08-10
浏览次数11

项目介绍

deepfabric 是一个面向 AI 数据工程的一体化流水线工具,旨在解决高质量合成数据生成、模型训练、评估与蒸馏的割裂问题。它提供从数据生成到模型优化的完整闭环,支持通过 agents 或规则生成合成数据,并集成 Hugging Face datasets 生态,方便数据加载与导出。核心能力包括:合成数据生成(支持多种策略)、数据质量度量与过滤、模型微调(fine-tuning)与蒸馏(distillation),以及统一的评估框架。用户可以通过简洁的 Python API 或配置文件定义流水线,自动完成数据生成、清洗、训练和评估,显著降低构建高质量数据集的门槛。项目处于早期阶段,但架构清晰,适合需要快速迭代合成数据与模型优化的研究者和工程师。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 897

使用教程

难度:进阶 约 25 分钟 部署方式:本地安装 4 步

环境要求

  • Python 3.10+
  • 生成模型 API Key

安装与启动步骤

  1. 1装包

    DeepFabric 做合成数据集生成,pip 装完即用。

    pip install deepfabric
  2. 2生成主题图谱

    它的核心是先建主题图再采样,保证覆盖广且不跑题。

  3. 3生成数据

    指定生成模型的系统提示与规模,输出可直接用于微调的数据集。

    deepfabric generate --topic "REST API 设计" --num-samples 500
  4. 4校验质量

    抽样人工看一遍,重点查事实错误与格式漂移。

如何确认成功

产出 JSONL 数据集,字段结构一致。

注意事项

  • 合成数据要防自我强化偏差,最好混入真实样本。

核心亮点

  • 集成数据生成、训练、评估全流程,减少工具切换成本
  • 基于 Hugging Face datasets,生态兼容性好,易于接入现有工作流
  • 支持蒸馏与微调,适合模型压缩和领域适配场景

不足之处

  • 文档/社区待观察
  • 早期项目,API 可能不稳定,需关注版本迭代

适用场景

  • 合成数据驱动的模型微调与蒸馏
  • 数据稀缺场景下的训练数据增强
  • 模型迭代中的自动化评估与质量监控

替代项目

Datagen、Mostly AI、Synthetic Data Vault (SDV)

上一篇:Active-Learning-as-a-Service

下一篇:faker

同类项目推荐

seqio 开源

统一序列任务数据管道,定义一次到处训练

Task-based datasets, preprocessing, and evaluation for sequence models.

★ 596 2026-09-21
DatasetHelpers 开源

桌面工具自动筛选、缩放并标注图像文本数据集

Dataset Helper program to automatically select, re scale and tag Datasets (composed ···

★ 229 2026-11-02
DataDesigner 开源

从零或种子数据一键生成高质量合成数据,加速 AI 训练

NeMo Data Designer: Generate high-quality synthetic data from scratch or from seed d···

★ 2403 2026-08-09
curator 开源

把杂乱合成数据变成高质量训练集,提升模型后训练效果。

Synthetic data curation for post-training and structured data extraction

★ 1764 2026-08-09
Active-Learning-as-a-Service 开源

用主动学习智能选数据,省标注成本,提模型效率。

A scalable & efficient active learning/data selection system for everyone.

★ 222 2026-08-09
VPSCI-Dataset 开源

真实车人冲突场景数据,直接喂给自动驾驶安全模型

VPSCI(Vehicle–Pedestrian Safety-Critical Interaction)Dataset

★ 392 2026-09-21
synthetic-data-generator 开源

一键生成高仿真表格数据,解决隐私与数据稀缺难题

SDG is a specialized framework designed to generate high-quality structured tabular ···

★ 2442 2026-08-09
attack_data 开源

一站式获取多种攻击数据集,快速训练安全模型

A repository of curated datasets from various attacks

★ 842 2026-09-21
be_great 开源

用大模型生成以假乱真的表格数据,解决隐私和数据短缺问题。

A novel approach for synthesizing tabular data using pretrained large language model···

★ 375 2026-08-17