delta-Mem

让大模型边聊边记,长对话不再爆显存

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 26
GitHub ↗
GitHub 星标 ★ 270
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源论文代码,免费使用

项目预览

delta-Mem 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队declare-lab
定价模式🏷️完全免费
价格说明开源论文代码,免费使用
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Python
GitHub 星标★ 270
上线时间2026-05-08 00:00:00
代码更新2026-09-25
仓库体积809 KB
本站数据更新2026-11-18
维护状态维护中
收录时间2026-10-05
浏览次数4

项目介绍

delta-Mem 是大语言模型在线记忆方向的开源实现,对应论文《delta-mem: Efficient Online Memory for Large Language Models》。它要解决的是 LLM 在长对话、持续交互场景中上下文窗口有限、历史信息难以低成本保留的问题:传统做法要么把全部历史塞进 prompt 导致显存和延迟暴涨,要么用外部向量库检索但缺乏对记忆的增量更新能力。delta-Mem 的核心思路是把记忆做成可在线更新的增量状态,只对新增信息做 delta 式写入与压缩,从而在推理过程中持续维护一份高效记忆,减少重复计算与冗余存储。项目提供 Python 实现,便于研究者复现论文实验,也方便工程侧接入现有推理流程做原型验证。当前处于早期阶段,适合关注长上下文、记忆增强、Agent 长期记忆方向的开发者跟进。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-05 · 当前星标 ★ 270

核心亮点

  • 以增量 delta 方式更新记忆,避免每轮重算全部历史,降低在线推理开销
  • 面向在线场景设计,支持持续交互中的记忆写入与维护,而非一次性离线索引
  • 提供论文官方实现,便于复现实验并在此基础上做长上下文与 Agent 记忆研究

不足之处

  • 项目处于早期,星标与生态较小,缺少成熟的工程封装和开箱即用文档
  • 实际加速与效果高度依赖具体模型和任务,通用性与稳定性仍需更多验证

适用场景

  • 长对话客服或陪伴类应用,需要跨多轮保留用户偏好与历史事实
  • LLM Agent 长期运行,持续积累任务经验与环境记忆
  • 研究长上下文与记忆增强机制,复现并改进 delta 式在线记忆方法

替代项目

MemGPT、LongMem、Mem0

上一篇:casadi

下一篇:nano-vllm-prefillonly

同类项目推荐

muse2api 开源

把 Muse 变成 OpenAI 接口,现有代码改个地址就能用

把 Muse(muse.ai) 逆向封装为 OpenAI 兼容接口,支持对话、文生图、文生视频/图生视频、多···

★ 1393 2026-09-29
ComfyUI-DD-Translation 开源

让 ComfyUI 界面说中文,节点参数一眼看懂

基于AIGODLIKE-ComfyUI-Translation项目的衍生分支,对最新版本ComfyUI做全面的支持和适配···

★ 852 2026-11-13
timber 开源

一条命令把 XGBoost 等模型编译成 C 代码,推理快 336 倍

Ollama for classical ML models. AOT compiler that turns XGBoost, LightGBM, scikit-le···

★ 692 2026-08-09
lantern 开源

在 PostgreSQL 里直接跑向量搜索,不用额外部署向量数据库。

PostgreSQL vector database extension for building AI applications

★ 897 2026-08-09
higress 开源

用 Envoy 打造 AI 原生网关,统一管理模型流量与成本。

AI Gateway | AI Native API Gateway

★ 9784 2026-08-09
redb-open 开源

统一接入多数据库,实时迁移复制,为AI和大规模数据而生。

Distributed data mesh for real-time access, migration, and replication across divers···

★ 82 2026-08-09
sglang-omni 开源

让语音和多模态模型服务快如闪电,吞吐翻倍

High Performance Serving Runtime For Interactive Super Intelligence System

★ 1825 2026-08-14
llmaker 开源

终端一键拉起整套自托管 LLM 服务栈

Selfhost modern LLM stacks. Run the whole fleet from your terminal

★ 105 2026-08-09