LightMem

环境要求

• Python 环境与 pip（项目为 Python 开发，源码安装需 pip install -e .）
• 已在本地克隆 LightMem 仓库（源码安装方式）
• 需准备 LLM 服务：OpenAI、DeepSeek 等云 API，或 Ollama、vLLM 等本地模型
• 需从 HuggingFace 下载 llmlingua-2 与 all-MiniLM-L6-v2 模型，并能访问 HuggingFace 下载数据集

安装与启动步骤

1. 1克隆仓库

   把 LightMem 源码下载到本地，克隆后目录名为 LightMem，后续均在仓库内操作。

   git clone https://github.com/zjunlp/LightMem.git

   复制

2. 2进入项目目录

   切换到仓库根目录，README 明确要求在根目录下运行。

   cd LightMem

   复制

3. 3源码安装依赖

   README 推荐源码安装方式；部分网络环境代理会干扰 pip，故先取消代理再安装。

   unset ALL_PROXY
   pip install -e .

   复制

4. 4配置模型与密钥

   在 API Configuration 中修改 JUDGE_MODEL、LLM_MODEL 及各自的 API_KEY 与 BASE_URL，否则无法调用模型。

5. 5下载本地模型

   从 HuggingFace 下载 llmlingua-2 与 all-MiniLM-L6-v2，并在 Model Paths 中把路径改成实际存放位置。

6. 6下载数据集

   从 HuggingFace 下载 longmemeval-cleaned 数据集，并在 Data Configuration 中修改数据路径。

7. 7运行快速开始

   进入 experiments 目录执行示例脚本 run_lightmem_qwen.py，脚本会跑通记忆写入与检索流程。

   cd experiments
   python run_lightmem_qwen.py

   复制

关键配置

如何确认成功

python run_lightmem_qwen.py 能无报错运行并输出生成/检索结果，即说明安装与配置成功。

常见问题

注意事项

• README 未给出 CUDA/显存等硬件要求，请按所选模型的实际情况准备运行环境。
• 配置路径均为占位，需替换为你本机下载模型与数据集的真实路径。
• 示例脚本依赖 longmemeval-cleaned 数据集，未下载会在运行时读取数据失败。
• 文档中的安装说明较简略，若目录结构与示例不一致，请以仓库实际文件为准。