docetl

用自然语言定义数据管道,LLM 自动处理非结构化数据

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 465 🐛 待处理 47 👀 关注 33
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 4222
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,可自行部署使用。

项目预览

docetl 项目界面预览图
图片来源:项目官网

项目数据

分类开源模型
开发团队ucbepic
官网地址https://docetl.org
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型agents,data,data-pipelines,document-analysis,document-processing,elt,etl,llm,python,semantic-data,unstructured-data,unstructured-data-analysis,workflow
GitHub 星标★ 4222
上线时间2024-07-09 00:00:00
代码更新2026-11-09
仓库体积87.1 MB
本站数据更新2026-11-10
维护状态活跃
收录时间2026-08-09
浏览次数5

项目介绍

DocETL 是一个面向智能体 LLM 的数据处理与 ETL 系统。它解决传统 ETL 管道无法灵活处理非结构化数据(如文本、日志、文档)的痛点,将大语言模型作为核心处理引擎,支持对数据进行提取、转换、过滤、聚合等复杂操作。用户通过声明式 YAML 配置定义管道,系统自动优化执行计划,并支持多智能体协作完成跨文档推理、数据验证等高级任务。其核心能力包括:基于 LLM 的管道优化器、可扩展的算子库、流式处理与缓存机制,以及面向成本与延迟的自动调优。DocETL 让开发者无需编写大量胶水代码,即可构建可靠、可观测的 LLM 数据管道,适用于数据清洗、信息抽取、文档分析等场景。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 4222

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:入门 约 5 分钟 部署方式:库/依赖 3 步

环境要求

  • Python 环境(README 未指定具体版本,建议 Python 3.9+)
  • 可用的 pip 包管理器
  • 一个 LLM 提供商的 API Key(如 OpenAI)

安装与启动步骤

  1. 1安装 DocETL 包

    使用 pip 从 PyPI 安装 docetl 库,建议在虚拟环境中执行以避免依赖冲突。

    pip install docetl
  2. 2配置 LLM 密钥

    把 OPENAI_API_KEY 导出为环境变量,README 说明也可换成任意其他 LLM 提供商的密钥。

    export OPENAI_API_KEY=sk-xxxxxxxx
  3. 3安装 Claude Code 技能

    README 推荐用 Claude Code 编写管道:先运行该命令安装技能,再向它描述你的任务即可。

    docetl install-skill

关键配置

配置项必填说明示例
OPENAI_API_KEY是LLM 提供商的 API 密钥,DocETL 调用模型时使用sk-xxxxxxxx

如何确认成功

README 未给出启动验证方式;可执行 pip show docetl 查看版本号,确认包已成功安装。

常见问题

Q:不是 OpenAI 的模型可以用吗?

A:可以。README 注明环境变量处可填任意 LLM 提供商的密钥,按你所用的提供商设置对应的 API Key 环境变量即可。

Q:不知道该写什么管道怎么办?

A:运行 docetl install-skill 安装 Claude Code 技能,然后直接用自然语言向 Claude Code 描述你的数据处理任务,由它帮你生成配置。

Q:数据最终以什么形式产出?

A:DocETL 返回表格结果,便于在常用的数据库中查询,适合数据清洗、信息抽取和文档分析等场景。

注意事项

  • 本次仅依据 README 中的 Install 章节,未包含 YAML 配置、Python API 与 DocWrangler UI 的具体用法。
  • export OPENAI_API_KEY=your_key 中的值需替换为你自己的真实密钥,切勿提交到代码仓库。
  • Windows 环境下没有 export 命令,可用 set OPENAI_API_KEY=sk-xxxxxxxx 或在系统设置里配置环境变量。

核心亮点

  • 声明式 YAML 配置,无需手写复杂 LLM 调用逻辑
  • 内置管道优化器,自动降低 LLM 调用成本与延迟
  • 支持多智能体协作,可完成跨文档推理与复杂数据验证

不足之处

  • 依赖 LLM API,处理大规模数据时成本可能较高
  • 文档/社区待观察

适用场景

  • 非结构化文档批量清洗与字段抽取
  • 日志/评论数据的智能分类与情感分析
  • 跨多文档的信息聚合与事实核查

替代项目

Unstructured、LangChain、Haystack

上一篇:all-agentic-architectures

下一篇:JioNLP

同类项目推荐

rasa 开源

自己搭聊天机器人,不用把对话数据交给别人,想怎么调就怎么调。

Open source machine learning framework to automate text- and voice-based conversatio···

★ 21380 2026-08-09
SkillForge 开源

创建 AI 技能时,自动验证它真的能用。

A skill creator that proves its skills work. Evidence-driven skill creation for Clau···

★ 917 2026-08-10
x 开源

几行代码把 AI 聊天助手嵌进你的 React 应用

Craft AI-driven interface effortlessly

★ 4845 2026-10-08
tiger 开源

一站式构建安全、知识增强、可微调的 LLM 应用

Open Source LLM toolkit to build trustworthy LLM applications. TigerArmor (AI safety···

★ 403 2026-08-09
onellm 开源

一个接口调用数百种大模型,自动缓存和故障回退,省心又稳定。

Unified interface for interacting with various LLMs hundreds of models, caching, fal···

★ 52 2026-08-09
ChatGLM-web-stream-demo 开源

快速搭建 ChatGLM 流式对话网页,即拿即用

ChatGLM-6B HTTP流式解码API的Flask、FastAPI实现,以及开箱即用的Web页面。 a stream dec···

★ 93 2026-08-09
langchain-scrapingbee 开源

让 LangChain 应用一键抓取反爬网页,直接喂给大模型

LangChain integrations for ScrapingBee

★ 102 2026-09-12