warc-gpt

把历史网页变成可问答的知识库

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 搜索知识 🍴 复刻 28 🐛 待处理 11 👀 关注 11
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 281
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,可自行部署使用。

项目预览

warc-gpt 项目界面预览图
图片来源:项目官网

项目数据

分类搜索知识
开发团队harvard-lil
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ai,rag,warc,webarchiving
GitHub 星标★ 281
上线时间2023-10-23 00:00:00
代码更新2025-02-11
仓库体积1.7 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数2

项目介绍

warc-gpt 是一个实验性的检索增强生成(RAG)流水线,专门用于处理 Web 归档集合(WARC 格式)。它解决的是如何从海量历史网页快照中提取知识并用于问答的问题。核心能力包括:解析 WARC 文件、清洗网页内容、分块存储到向量数据库、通过嵌入模型建立索引,并利用大语言模型进行检索式问答。项目基于 Python 构建,支持自定义数据源和模型,适合研究人员、档案管理员或开发者探索将 AI 应用于网络存档分析。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 281

技术标签

核心亮点

  • 直接解析 WARC 格式,无需预处理转换,简化归档数据接入
  • 模块化流水线设计,便于替换嵌入模型或向量库
  • 提供端到端示例,快速上手从存档到问答的完整流程

不足之处

  • 早期项目,文档和社区支持尚不完善
  • 对大规模 WARC 文件的性能优化有限

适用场景

  • 数字档案馆的智能检索与问答
  • 历史网页内容的学术研究辅助
  • 机构内部网络归档的知识挖掘

替代项目

txtai、LangChain、Haystack

上一篇:MinerU-HTML

下一篇:NanoSage

同类项目推荐

kaas 开源

把散乱笔记编译成可查询的 Markdown 知识库,供 AI 代理调用。

Turn scattered notes, docs and transcripts into a queryable Markdown wiki — an LLM ···

★ 153 2026-08-09
pg_vectorize 开源

在 Postgres 里直接搞定全文+语义搜索,不用额外部署向量库

Full-text and semantic search on any Postgres

★ 835 2026-08-09
flexible-graphrag 开源

一键搭建企业级知识图谱问答系统,支持多源数据自动同步。

GraphRAG, RAG, LlamaIndex, LangChain, 15 Prop Graph, 4 RDF, 10 Vector, 3 Search DBs.···

★ 198 2026-08-09
farfalle 开源

自建私有 AI 搜索,接入任意大模型,告别广告和隐私焦虑。

AI search engine - self-host with local or cloud LLMs

★ 3542 2026-08-09
tw-legal-rag 开源

输入法律问题,一键检索台湾判例并打包给AI分析。

台灣法律 MCP 伺服器 + CLI(免費、免金鑰,連接時登入法律偵探帳號):2,277 萬筆裁判書、···

★ 344 2026-08-09
onyx 开源

连接所有知识源,用 AI 聊天搞定企业搜索

Open Source AI Platform - AI Chat with advanced features that works with every LLM

★ 33295 2026-08-09
Awesome-RAG 开源

一站式收藏 RAG 前沿资源,快速掌握增强生成技术

Awesome RAG: A resource of Retrieval-Augmented Generation (RAG) for LLMs, focusing o···

★ 521 2026-08-09
MemGallery 开源

把语音、图片、笔记和链接收进一个本地 AI 记忆库,随时搜得到

MemGallery: A smart memory bank to store all your memories from audio, images, text,···

★ 107 2026-11-07
BYO-LLM-WIKI 开源

用大模型自动构建你的知识库,还能自动生成技能

Build your own LLM-native WIKI (knowledge library). Search, extract, summarize, Q&A ···

★ 276 2026-08-09