raglite

用 DuckDB/PostgreSQL 轻松搭建轻量 RAG 流水线，本地秒级检索

RAGLite 是一个面向检索增强生成（RAG）场景的 Python 工具包，核心特点是基于 DuckDB 或 PostgreSQL 作为向量存储与元数据存储，提供轻量、可嵌入的 RAG 流水线。它解决了传统 RAG 系统依赖重型向量数据库（如 Milvus、Weaviate）导致部署复杂、资源占用高的问题，让开发者能在本地或边缘环境快速搭建 RAG 应用。RAGLite 内置了文档解析、分块、嵌入、检索、重排、生成等完整环节，支持多种嵌入模型和 LLM 后端，并提供简洁的 API 接口。其亮点在于利用 DuckDB 的高性能与零配置特性，实现单文件或单进程内的向量检索，同时兼容 PostgreSQL 以支持生产级扩展。项目还包含命令行工具和 Web UI 示例，方便快速原型验证。整体上，RAGLite 适合需要轻量级、可定制且易于集成的 RAG 解决方案的开发者，尤其适合原型开发和小型生产环境。

开源 free 搜索知识

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 1202

维护状态维护中

是否开源是

定价模式 free

项目数据

分类搜索知识

开发团队superlinear-ai

所属国家

官网地址

GitHubhttps://github.com/superlinear-ai/raglite

定价模式free

价格说明开源项目，MPL-2.0许可证，可免费使用和部署。

访问状态

是否开源是

开源协议MPL-2.0

主要语言Python

技术栈/模型chainlit,colbert,duckdb,evals,late-chunking,late-interaction,llm,markdown,pdf,pgvector,postgres,postgresql,query-adapter,rag,reranking,retrieval-augmented-generation,sqlite,vector-search

GitHub 星标★ 1202

30天Star增速

HF 下载量

上线时间2024-06-10 00:00:00

最近更新2026-09-23 00:00:00

维护状态维护中

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数2

使用教程

难度：入门约 10 分钟部署方式：库/依赖 6 步

环境要求

Python 3.10 / 3.11 / 3.12（llama-cpp-python 预编译包支持的版本）
pip 可正常联网安装 PyPI 包
可选：使用本地模型时需匹配 macOS/Linux/Windows 对应的 Metal 或 CUDA 加速包
可选：使用 MCP 服务器需安装 Claude desktop 与 uv
可选：使用 API 模型需准备 OPENAI_API_KEY

安装与启动步骤

1安装 RAGLite 核心包

RAGLite 本体通过 PyPI 安装，仅含轻量依赖（不含 PyTorch、LangChain）。建议在虚拟环境中执行。
```
pip install raglite
```
2按需安装功能扩展

chainlit 提供类 ChatGPT 前端，pandoc 支持 PDF 以外文件类型，ragas 用于评测；按需选择安装。
```
pip install raglite[chainlit]
```
3安装加速本地模型(可选)

若用本地模型，建议装预编译的 llama-cpp-python；注意版本、加速器、平台组合并非全部可用，需自行替换变量值。
```
pip install "https://github.com/abetlen/llama-cpp-python/releases/download/v0.3.9-cu124/llama_cpp_python-0.3.9-cp311-cp311-linux_x86_64.whl"
```
4配置 API 密钥(可选)

使用 API 型 LLM 时，把凭据写入 .env 文件或直接内联导出环境变量，供 LiteLLM 调用。
```
export OPENAI_API_KEY=sk-xxxxxxxx
```
5准备 Claude 桌面与 uv

MCP 服务器由 Claude desktop 通过 uv 拉起，需先自行安装这两者（安装方式见官方文档链接）。

6安装 MCP 服务器

用 raglite 命令指定数据库、LLM 与嵌入模型后执行 mcp install，把服务器注册到 Claude desktop。

raglite --db-url duckdb:///raglite.db --llm llama-cpp-python/unsloth/Qwen3-4B-GGUF/*Q4_K_M.gguf@8192 --embedder llama-cpp-python/lm-kit/bge-m3-gguf/*F16.gguf@512 mcp install

关键配置

配置项	必填	说明	示例
`--db-url`	是	指定 DuckDB 或 PostgreSQL 作为关键词与向量检索数据库	`duckdb:///raglite.db`
`--llm`	是	指定 LLM 提供方与模型，支持本地 llama-cpp-python 或 API 模型	`gpt-4o-mini`
`--embedder`	是	指定嵌入模型，用于文档与查询向量化	`text-embedding-3-large`
`OPENAI_API_KEY`	否	使用 API 型 LLM 或嵌入模型时的访问凭据	`sk-xxxxxxxx`

如何确认成功

启动 Claude desktop 后，提示框右下角出现图标，即表示 Claude 已成功连接 MCP 服务器。

常见问题

Q：不想用本地模型怎么办？

A：改用 API 型模型：导出 OPENAI_API_KEY 后，把命令里的 --llm 换成 gpt-4o-mini、--embedder 换成 text-embedding-3-large 即可。

Q：需要处理 PDF 以外的文件类型？

A：安装 pandoc 扩展：pip install raglite[pandoc]，即可支持更多文档格式。

Q：想要类 ChatGPT 的网页前端？

A：安装 chainlit 扩展：pip install raglite[chainlit]，即可获得可自定义的前端界面。

Q：需要评估 RAG 效果？

A：安装评测扩展：pip install raglite[ragas]；若要使用 Mistral OCR 做高质量文档处理，再装 pip install mistralai。

Q：llama-cpp-python 预编译包装不上？

A：并非所有组合都有预编译包，需调整 LLAMA_CPP_PYTHON_VERSION、PYTHON_VERSION、ACCELERATOR、PLATFORM 四个变量使其互相匹配。

注意事项

RAGLite 依赖轻量且宽松，刻意不引入 PyTorch、LangChain 等重型依赖。
加速能力：macOS 走 Metal，Linux 与 Windows 走 CUDA。
数据库可二选一：DuckDB 零配置单文件，或 PostgreSQL/pgvector。
README 未给出完整的建库与问答调用示例，实际流水线用法需查阅仓库其他文档。

核心亮点

基于 DuckDB 实现零配置向量存储，部署简单，适合本地开发
支持 PostgreSQL 无缝切换，兼顾生产可扩展性
内置完整 RAG 流程（分块、嵌入、重排），API 简洁易上手

不足之处

DuckDB 场景下并发能力有限，不适合高并发生产环境
生态较新，文档和社区示例相对较少

适用场景

本地知识库问答系统快速原型开发
中小规模私有数据检索增强生成应用
嵌入式或边缘设备上的轻量 RAG 服务

替代项目

LangChain、LlamaIndex、txtai

项目介绍

raglite 是搜索知识领域的开源项目，由 superlinear-ai 开发，2024 年首次发布。

在全站 13,014 个收录项目中，它的 GitHub 星标数（1,202）位列前 30%，在搜索知识分类中处于中上游。

项目仍在小幅维护中，最近一次代码更新于 2026-09-23。MPL-2.0许可证，可免费使用和部署。

它主要面向的使用场景是：本地知识库问答系统快速原型开发。同类可对比的替代方案包括 LangChain、LlamaIndex、txtai。

上一篇：RAGxplorer

下一篇：arkon