MinerU-HTML

用SLM从网页中提取干净正文,喂给AI应用

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 搜索知识 🍴 复刻 28 🐛 待处理 2 👀 关注 5
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 300
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0许可证,可免费使用和部署。

项目预览

MinerU-HTML 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类搜索知识
开发团队opendatalab
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0许可证,可免费使用和部署。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型article-extractor,corpus-tools,nlp,rag,scraping,text-extraction,trafilatura,web-scraping,webagent
GitHub 星标★ 300
上线时间2025-11-26 00:00:00
代码更新2026-11-06
仓库体积3.2 MB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-09
浏览次数2

项目介绍

MinerU-HTML 是一个基于小型语言模型(SLM)的 HTML 主内容提取工具,能够从杂乱网页中提取干净的 HTML 正文。它解决的是网页内容解析中常见的导航、广告、脚本等噪声干扰问题,为深度研究代理、RAG 应用和训练数据生成提供高质量输入。核心能力包括:利用 SLM 智能识别并剔除无关元素,保留结构化正文;输出标准 HTML 格式,便于下游处理;轻量高效,适合集成到现有数据管道。项目处于早期阶段,API 和文档尚在完善中。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 300

核心亮点

  • 基于SLM智能识别内容,比传统规则过滤更适应复杂页面
  • 输出标准HTML,直接对接RAG和训练数据流程
  • 轻量级设计,适合嵌入现有爬虫或数据处理管道

不足之处

  • 文档/社区待观察
  • 早期项目,API可能不稳定,需关注版本迭代

适用场景

  • 深度研究代理的数据采集预处理
  • RAG系统的文档清洗与索引构建
  • 大规模训练数据集的网页正文提取

替代项目

trafilatura、readability-lxml、boilerpy3

上一篇:code_qa

下一篇:warc-gpt

同类项目推荐

beever-atlas 开源

把 Wiki 变成能聊天的知识库,问一句就出答案

Your First LLM-Wiki Conversation Knowledge Base

★ 451 2026-08-09
reader 开源

给 URL 加个前缀,网页秒变 LLM 能读的 Markdown

Convert any URL to an LLM-friendly input with a simple prefix https://r.jina.ai/

★ 12248 2026-08-09
talk2arxiv 开源

上传论文,直接和 ChatGPT 聊内容,快速吃透要点

Talk to any ArXiv paper using ChatGPT

★ 531 2026-08-09
infino 开源

在应用内嵌 Parquet 检索,全文+向量混合搜索开箱即用

Embedded retrieval library built on Parquet. Fast, efficient, and scalable.

★ 152 2026-10-09
Gaussian_Clef_RAG 开源

把知识块建成高斯分布,用信息几何做毫秒级概率检索

Probabilistic retrieval-augmented generation on statistical manifolds with sub-100ms···

★ 169 2026-10-25
bgts-context-engine 开源

不靠大模型,用代码图给 AI 编程助手喂稳定上下文

Deterministic code-graph context engine for AI coding agents - PostgreSQL + Apache A···

★ 179 2026-10-21
MemGallery 开源

把语音、图片、笔记和链接收进一个本地 AI 记忆库,随时搜得到

MemGallery: A smart memory bank to store all your memories from audio, images, text,···

★ 107 2026-11-07
coco-server 开源

一个服务搞定企业所有文件搜索,AI 直接给你答案

Coco AI Server - Search, Connect, Collaborate, AI-powered Enterprise Search, all in ···

★ 148 2026-08-09
Vane 开源

输入问题,直接获取带引用的精准答案。

Vane is an AI-powered answering engine.

★ 38089 2026-08-09