llm-reader

一键把网页变成 LLM 能读懂的干净文本,RAG 抓取更省心。

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 搜索知识 🍴 复刻 24 🐛 待处理 1 👀 关注 2
GitHub ↗
GitHub 星标 ★ 315
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,需自行部署使用。

项目预览

llm-reader 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类搜索知识
开发团队m92vyas
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,需自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ai-agent-tools,ai-agents,ai-web-scraper,extract-data,firecrawl,jinaai,llm,llm-agent,rag,scraper,scraping,scraping-websites,webscraping
GitHub 星标★ 315
上线时间2024-07-27 00:00:00
代码更新2026-10-20
仓库体积126 KB
本站数据更新2026-11-09
维护状态较活跃
收录时间2026-08-09
浏览次数2

项目介绍

llm-reader 是一个将网页转换为大语言模型友好文本输入的开源工具,定位类似 Firecrawl 和 Jina Reader API。它主要解决 RAG(检索增强生成)、AI 网页抓取、图片与网页链接提取等场景中,原始 HTML 噪声大、结构复杂导致 LLM 难以直接理解的问题。核心能力包括:自动提取网页正文、清洗无关元素(如导航、广告)、保留关键图片和链接信息,并输出为简洁的纯文本或 Markdown 格式,方便直接作为 LLM 的上下文输入。项目基于 Python 实现,提供简单易用的 API 接口,支持批量处理,适合开发者快速集成到自己的 AI 应用或数据处理管道中。作为早期项目,它聚焦于轻量化和易用性,为需要高质量网页文本提取的 RAG 系统提供了一种自托管替代方案。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 315

核心亮点

  • 输出格式针对 LLM 优化,直接减少 token 浪费,提升 RAG 检索质量
  • 支持图片和链接提取,保留关键上下文,不丢失网页中的多模态信息
  • 自托管部署,数据不出内网,相比第三方 API 更安全可控

不足之处

  • 早期项目,功能迭代和稳定性有待验证
  • 文档/社区待观察

适用场景

  • 构建 RAG 知识库时,批量抓取网页并清洗为纯文本
  • AI 爬虫中需要将动态或复杂网页转为结构化文本供模型分析
  • 个人或企业内网部署,避免将网页内容发送给外部 API

替代项目

Firecrawl、Jina Reader、Trafilatura

上一篇:A-Guide-to-Retrieval-Augmented-LLM

下一篇:SARA

同类项目推荐

RAG-QA-Generator 开源

自动从文档生成问答对,快速搭建 RAG 知识库

RAG-QA-Generator 是一个用于检索增强生成(RAG)系统的自动化知识库构建与管理工具。该工···

★ 276 2026-08-09
CrawlAI-RAG 开源

把整个网站变成能聊天的知识库,问啥答啥

CrawlAI RAG is an AI-powered website intelligence platform that allows users to craw···

★ 155 2026-08-09
trieve 开源

一个 API 搞定搜索、推荐和 RAG,快速构建智能应用

All-in-one platform for search, recommendations, RAG, and analytics offered via API

★ 2723 2026-08-09
aisearch-openai-rag-audio 开源

用语音对话你的私有知识库,基于Azure AI Search和GPT-4o实时问答

A simple example implementation of the VoiceRAG pattern to power interactive voice g···

★ 565 2026-08-09
geo-optimizer-skill 开源

让ChatGPT和Gemini在回答中主动引用你的网站

GEO Optimizer, the open-source engine behind GeoReady (geoready.dev): audit whether ···

★ 1297 2026-08-09
code-graph-rag 开源

用知识图谱让AI读懂你的大型代码库,查询、理解、改代码更精准

The ultimate RAG for your monorepo. Query, understand, and edit multi-language codeb···

★ 5346 2026-08-09
textbook-to-note 开源

把 PDF 教材变成可搜索、带引用的 AI 笔记

Turn your own PDF textbooks into an AI-searchable knowledge base and structured, ful···

★ 110 2026-09-12
local-LLM-with-RAG 开源

本地跑大模型,私有文档秒变智能问答助手

Running local Language Language Models (LLM) to perform Retrieval-Augmented Generati···

★ 290 2026-08-09