MemoRAG

环境要求

• 已安装 Python 环境
• conda 环境（用于安装 faiss-gpu）
• NVIDIA GPU（README 示例在 Colab T4 15GiB 显存上运行）
• 可访问 HuggingFace 下载记忆模型权重（如 TommyChien/memorag-qwen2-7b-inst）

安装与启动步骤

1. 1克隆仓库

   从 GitHub 拉取 MemoRAG 源码到本地，后续依赖安装和源码安装都在该目录进行。

   git clone https://github.com/qhjqhj00/MemoRAG.git
   cd MemoRAG

   复制

2. 2安装 PyTorch

   README 指定安装 torch 2.3.1 版本，用于加载记忆模型与生成模型。

   pip install torch==2.3.1

   复制

3. 3安装 FAISS-GPU

   通过 pytorch 与 nvidia 频道安装 faiss-gpu 1.8.0，供向量检索使用。

   conda install -c pytorch -c nvidia faiss-gpu=1.8.0

   复制

4. 4从源码安装

   README 中 Install from source 一节命令未完整展示，请进入仓库目录后参照仓库最新 README 完成源码安装。

5. 5初始化 MemoRAG

   可直接用 HuggingFace 模型初始化，支持 memorag-qwen2-7b-inst、memorag-mistral-7b-inst 两个记忆模型。

   from memorag import MemoRAG

   复制

6. 6构建全局记忆

   调用 MemoRAG.memorize() 对长上下文做一次记忆预扫描并建立记忆库；Memory 类也可单独用于存储与回忆。

关键配置

如何确认成功

能成功执行 from memorag import MemoRAG 并调用 memorize() 处理长文本而不报错，即表示记忆库构建成功。

常见问题

注意事项

• README 只给出了依赖安装与 Colab 试用，Install from source 的命令被截断，请以仓库最新 README 为准。
• 记忆模型权重托管在 HuggingFace（TommyChien 系列），首次运行需联网下载。
• 生成模型接口示例为 Azure（source=azure、model=gpt-35-turbo-16k），需自行准备 endpoint 与 api_key。
• 扩大处理长度优先调整 beacon_ratio，会同时增加显存与计算开销。