raglite

用 DuckDB/PostgreSQL 轻松搭建轻量 RAG 流水线，本地秒级检索

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署搜索知识 🍴 复刻 117 🐛 待处理 21 👀 关注 13

GitHub ↗

GitHub 星标 ★ 1211

维护状态较活跃

是否开源开源

定价模式 🏷️完全免费开源项目，MPL-2.0许可证，可免费使用和部署。

项目预览

项目数据

分类搜索知识

开发团队superlinear-ai

GitHubhttps://github.com/superlinear-ai/raglite

定价模式🏷️完全免费

价格说明开源项目，MPL-2.0许可证，可免费使用和部署。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议MPL-2.0

主要语言Python

技术栈/模型chainlit,colbert,duckdb,evals,late-chunking,late-interaction,llm,markdown,pdf,pgvector,postgres,postgresql,query-adapter,rag,reranking,retrieval-augmented-generation,sqlite,vector-search

GitHub 星标★ 1211

上线时间2024-06-10 00:00:00

代码更新2026-11-01

仓库体积1.3 MB

本站数据更新2026-11-08

维护状态较活跃

收录时间2026-08-09

浏览次数3

项目介绍

RAGLite 是一个面向检索增强生成（RAG）场景的 Python 工具包，核心特点是基于 DuckDB 或 PostgreSQL 作为向量存储与元数据存储，提供轻量、可嵌入的 RAG 流水线。它解决了传统 RAG 系统依赖重型向量数据库（如 Milvus、Weaviate）导致部署复杂、资源占用高的问题，让开发者能在本地或边缘环境快速搭建 RAG 应用。RAGLite 内置了文档解析、分块、嵌入、检索、重排、生成等完整环节，支持多种嵌入模型和 LLM 后端，并提供简洁的 API 接口。其亮点在于利用 DuckDB 的高性能与零配置特性，实现单文件或单进程内的向量检索，同时兼容 PostgreSQL 以支持生产级扩展。项目还包含命令行工具和 Web UI 示例，方便快速原型验证。整体上，RAGLite 适合需要轻量级、可定制且易于集成的 RAG 解决方案的开发者，尤其适合原型开发和小型生产环境。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1211

技术标签

duckdb evals llm markdown pdf

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：入门约 10 分钟部署方式：库/依赖 6 步

环境要求

Python 3.10 / 3.11 / 3.12（llama-cpp-python 预编译包支持的版本）
pip 可正常联网安装 PyPI 包
可选：使用本地模型时需匹配 macOS/Linux/Windows 对应的 Metal 或 CUDA 加速包
可选：使用 MCP 服务器需安装 Claude desktop 与 uv
可选：使用 API 模型需准备 OPENAI_API_KEY

安装与启动步骤

1安装 RAGLite 核心包

RAGLite 本体通过 PyPI 安装，仅含轻量依赖（不含 PyTorch、LangChain）。建议在虚拟环境中执行。
```
pip install raglite
```
2按需安装功能扩展

chainlit 提供类 ChatGPT 前端，pandoc 支持 PDF 以外文件类型，ragas 用于评测；按需选择安装。
```
pip install raglite[chainlit]
```
3安装加速本地模型(可选)

若用本地模型，建议装预编译的 llama-cpp-python；注意版本、加速器、平台组合并非全部可用，需自行替换变量值。
```
pip install "https://github.com/abetlen/llama-cpp-python/releases/download/v0.3.9-cu124/llama_cpp_python-0.3.9-cp311-cp311-linux_x86_64.whl"
```
4配置 API 密钥(可选)

使用 API 型 LLM 时，把凭据写入 .env 文件或直接内联导出环境变量，供 LiteLLM 调用。
```
export OPENAI_API_KEY=sk-xxxxxxxx
```
5准备 Claude 桌面与 uv

MCP 服务器由 Claude desktop 通过 uv 拉起，需先自行安装这两者（安装方式见官方文档链接）。

6安装 MCP 服务器

用 raglite 命令指定数据库、LLM 与嵌入模型后执行 mcp install，把服务器注册到 Claude desktop。

raglite --db-url duckdb:///raglite.db --llm llama-cpp-python/unsloth/Qwen3-4B-GGUF/*Q4_K_M.gguf@8192 --embedder llama-cpp-python/lm-kit/bge-m3-gguf/*F16.gguf@512 mcp install

关键配置

配置项	必填	说明	示例
`--db-url`	是	指定 DuckDB 或 PostgreSQL 作为关键词与向量检索数据库	`duckdb:///raglite.db`
`--llm`	是	指定 LLM 提供方与模型，支持本地 llama-cpp-python 或 API 模型	`gpt-4o-mini`
`--embedder`	是	指定嵌入模型，用于文档与查询向量化	`text-embedding-3-large`
`OPENAI_API_KEY`	否	使用 API 型 LLM 或嵌入模型时的访问凭据	`sk-xxxxxxxx`

如何确认成功

启动 Claude desktop 后，提示框右下角出现图标，即表示 Claude 已成功连接 MCP 服务器。

常见问题

Q：不想用本地模型怎么办？

A：改用 API 型模型：导出 OPENAI_API_KEY 后，把命令里的 --llm 换成 gpt-4o-mini、--embedder 换成 text-embedding-3-large 即可。

Q：需要处理 PDF 以外的文件类型？

A：安装 pandoc 扩展：pip install raglite[pandoc]，即可支持更多文档格式。

Q：想要类 ChatGPT 的网页前端？

A：安装 chainlit 扩展：pip install raglite[chainlit]，即可获得可自定义的前端界面。

Q：需要评估 RAG 效果？

A：安装评测扩展：pip install raglite[ragas]；若要使用 Mistral OCR 做高质量文档处理，再装 pip install mistralai。

Q：llama-cpp-python 预编译包装不上？

A：并非所有组合都有预编译包，需调整 LLAMA_CPP_PYTHON_VERSION、PYTHON_VERSION、ACCELERATOR、PLATFORM 四个变量使其互相匹配。

注意事项

RAGLite 依赖轻量且宽松，刻意不引入 PyTorch、LangChain 等重型依赖。
加速能力：macOS 走 Metal，Linux 与 Windows 走 CUDA。
数据库可二选一：DuckDB 零配置单文件，或 PostgreSQL/pgvector。
README 未给出完整的建库与问答调用示例，实际流水线用法需查阅仓库其他文档。

核心亮点

基于 DuckDB 实现零配置向量存储，部署简单，适合本地开发
支持 PostgreSQL 无缝切换，兼顾生产可扩展性
内置完整 RAG 流程（分块、嵌入、重排），API 简洁易上手

不足之处

DuckDB 场景下并发能力有限，不适合高并发生产环境
生态较新，文档和社区示例相对较少

适用场景

本地知识库问答系统快速原型开发
中小规模私有数据检索增强生成应用
嵌入式或边缘设备上的轻量 RAG 服务

替代项目

LangChain、LlamaIndex、txtai

上一篇：RAGxplorer

下一篇：arkon