MemoRAG

给 RAG 装个记忆库,模糊问题也能精准检索

MemoRAG 是一个基于记忆的数据接口的 RAG 框架,旨在解决传统 RAG 在处理模糊、信息不完整或全局性问题时的检索质量瓶颈。它通过引入长期记忆机制,先对全部数据做轻量级全局预扫描,形成记忆库,再在查询时用记忆辅助生成精准的搜索提示,引导向量检索或混合检索获取相关证据,最终由生成模型产出答案。核心能力包括:支持从非结构化文本中提取记忆、自动构建记忆库、记忆引导的检索提示生成、与多种检索器(如向量、BM25)灵活集成,以及提供统一的数据接口适配不同应用场景。项目用 Python 实现,接口简洁,适合快速集成到现有 RAG 流程中,尤其适用于需要跨文档综合推理、多跳问答和复杂信息提取的任务。

开源 free 搜索知识
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 2265
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类搜索知识
开发团队qhjqhj00
所属国家
官网地址
定价模式free
价格说明开源项目,Apache-2.0许可证,可自行部署使用,完全免费。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型long-llm,memory,rag
GitHub 星标★ 2265
30天Star增速
HF 下载量
上线时间2024-09-04 00:00:00
最近更新2026-09-23 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数0

使用教程

难度:进阶 约 30 分钟 部署方式:本地安装 6 步

环境要求

  • 已安装 Python 环境
  • conda 环境(用于安装 faiss-gpu)
  • NVIDIA GPU(README 示例在 Colab T4 15GiB 显存上运行)
  • 可访问 HuggingFace 下载记忆模型权重(如 TommyChien/memorag-qwen2-7b-inst)

安装与启动步骤

  1. 1克隆仓库

    从 GitHub 拉取 MemoRAG 源码到本地,后续依赖安装和源码安装都在该目录进行。

    git clone https://github.com/qhjqhj00/MemoRAG.git
    cd MemoRAG
  2. 2安装 PyTorch

    README 指定安装 torch 2.3.1 版本,用于加载记忆模型与生成模型。

    pip install torch==2.3.1
  3. 3安装 FAISS-GPU

    通过 pytorch 与 nvidia 频道安装 faiss-gpu 1.8.0,供向量检索使用。

    conda install -c pytorch -c nvidia faiss-gpu=1.8.0
  4. 4从源码安装

    README 中 Install from source 一节命令未完整展示,请进入仓库目录后参照仓库最新 README 完成源码安装。

  5. 5初始化 MemoRAG

    可直接用 HuggingFace 模型初始化,支持 memorag-qwen2-7b-inst、memorag-mistral-7b-inst 两个记忆模型。

    from memorag import MemoRAG
  6. 6构建全局记忆

    调用 MemoRAG.memorize() 对长上下文做一次记忆预扫描并建立记忆库;Memory 类也可单独用于存储与回忆。

关键配置

配置项必填说明示例
endpoint是生成模型 API 的访问地址https://your-resource.openai.azure.com/
api_version是API 版本号,README 给出该预览版示例2024-02-15-preview
api_key是调用生成模型接口所需的密钥sk-xxxxxxxx
model是生成模型名称,示例使用 gpt-35-turbo-16kgpt-35-turbo-16k
source是模型服务来源,示例为 azureazure
beacon_ratio否增大该参数可扩展记忆模型可处理的长上下文容量16

如何确认成功

能成功执行 from memorag import MemoRAG 并调用 memorize() 处理长文本而不报错,即表示记忆库构建成功。

常见问题

Q:显存不够怎么办?

A:README 示例仅在 Colab T4 15GiB 显存上运行,只能处理示例书约 68K tokens 的一半内容,可减少输入长度或换更大显存设备。

Q:最多能处理多长的上下文?

A:默认参数下 memorag-qwen2-7b-inst 可处理约 400K tokens,memorag-mistral-7b-inst 约 128K tokens;把 beacon_ratio 调到 16 时 qwen2 版本可达一百万 tokens。

Q:必须安装 faiss-gpu 吗?

A:README 的依赖安装步骤使用 conda 安装 faiss-gpu=1.8.0,说明检索部分依赖 FAISS 向量库,请按该步骤安装。

Q:有免费试用方式吗?

A:README 提供 Google Colab 笔记本,可在 T4 GPU 上免费跑通记忆模型、检索器与生成模型的完整流程。

注意事项

  • README 只给出了依赖安装与 Colab 试用,Install from source 的命令被截断,请以仓库最新 README 为准。
  • 记忆模型权重托管在 HuggingFace(TommyChien 系列),首次运行需联网下载。
  • 生成模型接口示例为 Azure(source=azure、model=gpt-35-turbo-16k),需自行准备 endpoint 与 api_key。
  • 扩大处理长度优先调整 beacon_ratio,会同时增加显存与计算开销。

核心亮点

  • 记忆机制显著提升模糊查询和多跳问题的检索准确率
  • 接口统一,易于与现有 RAG 流程集成,改造成本低
  • 支持多种检索后端,灵活适配不同数据规模

不足之处

  • 记忆构建需额外计算开销,大语料下耗时较长
  • 对非文本数据(如图表)支持有限
  • 文档/社区待观察

适用场景

  • 企业知识库问答,处理跨文档综合问题
  • 学术文献综述,自动关联多篇论文观点
  • 智能客服,理解用户模糊意图并给出准确答复

替代项目

GraphRAG、RAGFlow、LlamaIndex

项目介绍

MemoRAG 是搜索知识领域的开源项目,由 qhjqhj00 开发,2024 年首次发布。

在全站 13,090 个收录项目中,它的 GitHub 星标数(2,265)位列前 30%,在搜索知识分类中处于中上游。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-23。Apache-2.0许可证,可自行部署使用,完全免费。

它主要面向的使用场景是:企业知识库问答,处理跨文档综合问题。同类可对比的替代方案包括 GraphRAG、RAGFlow、LlamaIndex。

上一篇:SAG

下一篇:edgequake

同类项目推荐

firecrawl 开源

网页抓取像喝水一样简单,开发者省下整周加班

The web data API to search, scrape, and interact at scale.

★ 183325 2026-08-09
contoso-chat 开源

一键跑通 Azure RAG 应用,从代码到评估部署全流程

This sample has the full End2End process of creating RAG application with Prompty an···

★ 766 2026-08-09
graphify 开源

整个代码库画成一张图,找问题一眼定位

Turn any codebase, with its docs, SQL schemas, configs, and PDFs, into a queryable k···

★ 120493 2026-08-09
ragflow 开源

让大模型用上你的私有知识,搭建可靠的企业级RAG应用

RAGFlow is a leading open-source Retrieval-Augmented Generation (RAG) engine that fu···

★ 91170 2026-08-09