easy-dataset

一键生成高质量LLM训练数据集,告别手工整理

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 搜索知识 🍴 复刻 1544 🐛 待处理 136 👀 关注 64
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 15097
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,本地部署,完全免费。

项目预览

easy-dataset 项目界面预览图
图片来源:项目官网

项目数据

分类搜索知识
开发团队ConardLi
定价模式🏷️完全免费
价格说明开源项目,本地部署,完全免费。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议NOASSERTION
主要语言JavaScript
技术栈/模型dataset,fine-tuning,javascript,llm,rag
GitHub 星标★ 15097
上线时间2025-03-04 00:00:00
代码更新2026-05-01
仓库体积19.2 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数7

项目介绍

easy-dataset 是一个用于创建大语言模型(LLM)微调、RAG 和评估数据集的强大工具。它主要解决 AI 开发者在构建高质量训练数据时面临的痛点,如数据收集、清洗、格式化等繁琐流程。该项目提供了一套简洁的 JavaScript 接口,帮助用户从多种数据源(如文本、网页、PDF 等)提取内容,并进行结构化处理,生成符合主流 LLM 训练框架要求的格式。其核心能力包括数据抓取、预处理、转换和导出,支持自定义规则,可灵活适配不同场景。通过自动化流水线,显著提升数据集构建效率,降低人工成本,使得开发者能更专注于模型优化本身。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 15097

使用教程

难度:入门 约 10 分钟 部署方式:Docker 6 步

环境要求

  • 已安装 Node.js 与 npm(选择 NPM 本地运行方式时)
  • 已安装 Docker 与 docker-compose(选择容器方式时)
  • 可访问 GitHub 以克隆仓库
  • 本机 1717 端口可用(浏览器访问地址)

安装与启动步骤

  1. 1克隆项目仓库

    把 easy-dataset 源码克隆到本地并进入项目目录,后续 Docker 和 NPM 两种方式都从这里开始。

    git clone https://github.com/ConardLi/easy-dataset.git
    cd easy-dataset
  2. 2修改 compose 配置

    按 README 示例确认 image、端口映射 1717:1717,并挂载仓库目录下的 local-db 与 prisma。

  3. 3启动 Docker 容器

    在项目目录执行后台启动,首次启动会自动初始化数据库文件,无需手动执行 npm run db:push。

    docker-compose up -d
  4. 4或本地安装依赖

    不使用 Docker 时,先在项目根目录安装 npm 依赖,需保证 Node.js 环境正常。

    npm install
  5. 5构建并启动服务

    本地方式需先执行构建,再启动服务;两条命令依次运行,服务保持前台运行。

    npm run build
    npm run start
  6. 6打开浏览器访问

    访问 http://localhost:1717 打开 Easy Dataset 界面,即可开始构建数据集。

关键配置

配置项必填说明示例
image是官方 Docker 镜像地址ghcr.io/conardli/easy-dataset
container_name否容器名称,便于识别和管理easy-dataset
ports是将容器 1717 端口映射到本机 1717'1717:1717'
volumes - local-db是挂载数据库目录,保持数据路径一致./local-db:/app/local-db
volumes - prisma是挂载 prisma 目录,保持数据库文件一致./prisma:/app/prisma
restart否容器自动重启策略unless-stopped

如何确认成功

浏览器打开 http://localhost:1717 能看到 Easy Dataset 界面即启动成功;也可用 docker-compose ps 查看容器状态。

常见问题

Q:需要手动初始化数据库吗?

A:不需要。README 明确说明数据库文件会在首次启动时自动初始化,无需手动运行 npm run db:push。

Q:为什么建议挂载 local-db 和 prisma 目录?

A:README 建议使用当前代码仓库目录下的 local-db 和 prisma 作为挂载路径,这样与通过 NPM 启动时的数据库路径保持一致。

Q:想自己构建镜像怎么操作?

A:在项目根目录执行 docker build -t easy-dataset .,再用 docker run 挂载 local-db、prisma 并映射 1717 端口启动容器。

Q:不用 Docker 可以运行吗?

A:可以。按 README 的 NPM 方式依次执行 npm install、npm run build、npm run start,然后访问 http://localhost:1717。

注意事项

  • README 给出三种方式:docker-compose 官方镜像、本地 Dockerfile 构建、NPM 本地运行,按需选择其一即可。
  • 首次启动自动初始化数据库,不要重复执行 npm run db:push。
  • 若自行构建镜像,docker run 时同样要挂载 ./local-db 和 ./prisma 目录并映射 1717 端口。
  • 默认访问地址为 http://localhost:1717,请确保该端口未被占用。

核心亮点

  • 支持多种数据源(网页、PDF、文本)自动抓取与解析
  • 内置数据清洗和格式化功能,直接输出标准训练格式
  • 提供可视化界面,操作简单,上手快

不足之处

  • 文档/社区待观察

适用场景

  • LLM微调前的训练数据准备
  • 构建RAG系统的知识库数据
  • 生成模型评估的测试集

替代项目

Datasets (Hugging Face)、Label Studio、Prodigy

上一篇:opendataloader-pdf

下一篇:pii-masker

同类项目推荐

Active-Learning-as-a-Service 开源

用主动学习智能选数据,省标注成本,提模型效率。

A scalable & efficient active learning/data selection system for everyone.

★ 222 2026-08-09
stopes 开源

一键准备多语言翻译数据,从清洗到挖掘平行语料

A library for preparing data for machine translation research (monolingual preproces···

★ 315 2026-08-10
opendata 开源

一键获取美国国家美术馆海量艺术品数据,做研究做应用都方便

The National Gallery of Art Open Data Program

★ 860 2026-08-10
BTC-Trading-Since-2020 开源

下载2020年至今的比特币真实交易数据,直接用于策略研究和AI训练

Public BTC trading context since 2020.

★ 1225 2026-08-10
VPSCI-Dataset 开源

真实车人冲突场景数据,直接喂给自动驾驶安全模型

VPSCI(Vehicle–Pedestrian Safety-Critical Interaction)Dataset

★ 391 2026-09-21
VidProM 开源

百万真实提示词,让视频生成更懂用户

[NeurIPS 2024] VidProM: A Million-scale Real Prompt-Gallery Dataset for Text-to-Vide···

★ 188 2026-08-09
ldbc_snb_datagen_spark 开源

按 LDBC 标准一键生成 TB 级社交图测试数据

Synthetic graph generator for the LDBC Social Network Benchmark, running on Spark

★ 185 2026-10-20