LEANN

让个人设备也能跑起又快又准的私有 RAG，存储省 97%。

LEANN 是一个面向个人设备的轻量级 RAG（检索增强生成）引擎，旨在解决传统 RAG 系统在存储和隐私方面的痛点。它通过创新的索引压缩技术，将向量索引的存储开销降低 97%，使得在手机、笔记本等个人设备上也能流畅运行完整、准确的 RAG 应用。LEANN 完全本地化运行，确保数据 100% 私有，不依赖云端服务。其核心能力包括：高效的索引构建与查询、与主流 LLM 的无缝集成、以及针对资源受限环境的优化。该项目在 MLsys 2026 上发布，展示了其在系统层面的创新，为个人知识库、离线问答等场景提供了新的可能性。

开源 free 搜索知识

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 12954

维护状态活跃

是否开源是

定价模式 free

项目数据

分类搜索知识

开发团队StarTrail-org

所属国家

官网地址

GitHubhttps://github.com/StarTrail-org/LEANN

定价模式free

价格说明开源项目，MIT许可证，完全免费，可自行部署使用。

访问状态

是否开源是

开源协议MIT

主要语言Python

技术栈/模型ai,faiss,gpt-oss,langchain,llama-index,llm,localstorage,offline-first,ollama,privacy,python,rag,retrieval-augmented-generation,vector-database,vector-search,vectors

GitHub 星标★ 12954

30天Star增速

HF 下载量

上线时间2025-06-09 00:00:00

最近更新2026-09-22 00:00:00

维护状态活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数2

使用教程

难度：入门约 10 分钟部署方式：本地安装 8 步

环境要求

Python 环境，并使用 uv 作为包管理器（README 要求先安装 uv）
git（用于克隆仓库获取示例）
本地生成模型需要安装 Ollama
Windows 用户需要额外 C++ 工具链（cmake、swig、pkgconfiglite、nuget.commandline 及 vcpkg 依赖）

安装与启动步骤

1安装 uv

LEANN 官方推荐用 uv 管理环境与依赖，若本机没有 uv 先执行官方安装脚本，装完重新打开终端。
```
curl -LsSf https://astral.sh/uv/install.sh | sh
```
2克隆仓库

克隆仓库以获取全部示例应用（apps 目录、demo.ipynb 等），随后进入项目目录。
```
git clone https://github.com/yichuan-w/LEANN.git leann
cd leann
```
3创建虚拟环境

在项目目录内用 uv 创建独立虚拟环境，并激活，避免污染系统 Python。
```
uv venv
source .venv/bin/activate
```
4安装 LEANN

从 PyPI 安装 leann 包，这是核心库，装完即可在代码中导入 LeannBuilder 等类。
```
uv pip install leann
```
5安装生成模型 Ollama

LEANN 本地推理需要生成模型，README 提供 Ollama 安装脚本；不装则只能做检索、无法生成回答。
```
curl -fsSL https://ollama.ai/install.sh | sh
```
6全局安装 CLI（可选）

若想让 leann 命令在任何目录可用，用 uv tool 全局安装 leann-core 并附带 leann。
```
uv tool install leann-core --with leann
```
7接入 MCP（可选）

安装后把 leann-server 注册为 Claude 的 MCP 服务，即可在 Claude Code 中直接调用 LEANN 检索。
```
claude mcp add --scope user leann-server -- leann_mcp
```
8Windows 依赖（可选）

Windows 上编译 C++ 依赖需先装工具链，再用 vcpkg 安装 zeromq、openblas、lapack、protobuf 等库。
```
choco install cmake swig pkgconfiglite nuget.commandline -y
```

关键配置

配置项	必填	说明	示例
`INDEX_PATH`	否	索引文件的保存/加载路径，示例默认写到当前目录	`./demo.leann`
`--export-path`	否	对话导出路径，按扩展名决定 HTML 或 JSON 格式	`conversations.html`
`--query`	否	单次查询内容；不传则进入交互式连续问答模式	`你的问题`

如何确认成功

激活虚拟环境后执行 `leann --help`，能正常打印命令行帮助信息即表示安装成功。

常见问题

Q：本机没有 uv 怎么办？

A：README 明确要求先安装 uv，执行 curl -LsSf https://astral.sh/uv/install.sh | sh 即可，安装后重开终端使命令生效。

Q：Windows 上安装失败怎么办？

A：需要额外 C++ 工具链：用 choco 安装 cmake、swig、pkgconfiglite、nuget.commandline，再用 vcpkg 安装 zeromq、openblas、lapack、boost-program-options、protobuf。

Q：如何让 leann 命令在任意目录可用？

A：用 uv tool install leann-core --with leann 全局安装；若在虚拟环境内，先 source .venv/bin/activate 再运行 leann --help。

Q：没有云端 API 能生成回答吗？

A：可以。LEANN 完全本地运行，安装 Ollama（curl -fsSL https://ollama.ai/install.sh | sh）后由本地模型完成生成，数据不出设备。

Q：处理 PDF 时提示缺少组件？

A：安装 colpali_engine、pdf2image、pillow 等依赖；macOS 还需 brew install poppler，否则 pdf2image 无法解析 PDF。

注意事项

LEANN 主打本地化与隐私，官方声明零遥测，数据不会上传云端。
交互模式下不加 --query 即可连续提问，输入 quit 退出会话。
Windows 用户务必先装好 choco/vcpkg 的 C++ 依赖，否则编译阶段容易失败。
安装步骤中的链接与包名均来自 README，建议先克隆仓库再按示例路径运行 apps 下的应用。

核心亮点

存储节省 97%，大幅降低本地 RAG 的部署门槛
完全本地化，数据隐私性强，不依赖云端
针对个人设备优化，查询速度快，准确度高

不足之处

文档/社区待观察
索引压缩可能带来一定的精度损失（需权衡）

适用场景

个人知识库管理（如笔记、文档）
离线智能问答助手（如车载、移动端）
隐私敏感场景（如医疗、法律文档检索）

替代项目

LlamaIndex、LangChain、txtai

项目介绍

LEANN 是搜索知识领域的开源项目，由 StarTrail-org 开发，2025 年首次发布。

在全站 13,090 个收录项目中，它的 GitHub 星标数（12,954）位列前 4%，在搜索知识分类的 585 个项目里位列前 6%。

近 41 天，它的 GitHub 星标从 12,783 增加到 12,954，净增 171。

项目目前处于活跃维护状态，最近一次代码更新于 2026-09-22。MIT许可证，完全免费，可自行部署使用。

它主要面向的使用场景是：个人知识库管理（如笔记、文档）。同类可对比的替代方案包括 LlamaIndex、LangChain、txtai。

上一篇：SurfSense

下一篇：PixelRAG