evo-memory

给Transformer装上可扩展的神经记忆，突破上下文长度限制

evo-memory 是一个用于训练和评估神经注意力记忆模型的开源项目，目标是为 Transformer 架构提供通用可用的记忆系统。它解决的是标准 Transformer 在处理长序列或需要持续知识更新时，固定上下文窗口和参数化知识带来的记忆容量有限、无法动态扩展的问题。项目核心能力包括：实现多种神经注意力记忆模型（如 Neural Attention Memory Models），提供完整的训练与评估代码，支持将记忆模块集成到现有 Transformer 中，并通过实验验证记忆机制对模型长程依赖和知识存储能力的提升。该项目处于早期阶段，代码结构清晰，适合研究者快速上手复现实验，并为后续扩展新记忆架构提供基础。

开源 free 开源模型

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 361

维护状态低维护

是否开源是

定价模式 free

项目数据

分类开源模型

开发团队SakanaAI

所属国家

官网地址

GitHubhttps://github.com/SakanaAI/evo-memory

定价模式free

价格说明开源项目，代码公开，可自行部署使用，无收费计划。

访问状态

是否开源是

开源协议

主要语言Python

技术栈/模型evolutionary-algorithms,large-language-models,machine-learning,transformers

GitHub 星标★ 361

30天Star增速

HF 下载量

上线时间2024-10-17 00:00:00

最近更新2026-08-12 00:00:00

维护状态低维护

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数5

使用教程

核心亮点

直接提供神经注意力记忆模型的训练与评估代码，可复现论文实验
记忆模块设计为通用组件，可灵活集成到不同Transformer架构中
代码结构清晰，依赖简洁，适合作为二次开发或研究起点

不足之处

项目处于早期阶段，文档和示例相对简略，上手需要一定研究背景
目前仅提供核心训练评估代码，缺乏与主流框架（如HuggingFace）的现成集成示例

适用场景

研究Transformer长序列建模与记忆增强机制
探索将外部记忆模块集成到现有大语言模型以提升知识容量
作为教学或实验基线，对比不同记忆架构的效果

替代项目

MemGPT、Transformer-XL、Memformer

项目介绍

evo-memory 是模型训练领域的开源项目，由 SakanaAI 开发，2024 年首次发布。

它收录于模型训练分类，该分类目前共有 522 个项目，GitHub 星标数为 361。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-08-12。代码公开，可自行部署使用，无收费计划。

它主要面向的使用场景是：研究Transformer长序列建模与记忆增强机制。同类可对比的替代方案包括 MemGPT、Transformer-XL、Memformer。

上一篇：ETO

下一篇：IPR