让大模型学新知识不忘旧技能，复现ACL论文的增量学习工具箱
这是一个用于大语言模型增量学习的开源代码库，由ACL 2024相关论文官方发布，包含三篇工作的实现：一是“Learn or Recall?”研究，探讨在预训练语言模型上进行增量学习时，如何平衡学习新知识与保留旧知识；二是“Incremental Sequence Labeling”工作，针对序列标注任务中的两类漂移问题提出解决方案；三是“Concept-1K”基准，用于实例增量学习的新评测数据集。项目核心解决灾难性遗忘问题，即在持续学习新任务时保持模型对旧任务的性能。代码库提供统一的实验框架，支持多种增量学习场景（如任务增量、实例增量），并集成了常见评测指标和基线方法，方便研究者复现和对比。整体上，该仓库为NLP领域的增量学习研究提供了标准化工具，降低了实验搭建门槛。
Hugging Face Transformers (增量学习相关示例)、Continual Learning Benchmarks (如CLIB)、Mammoth (PyTorch增量学习框架)
codebase-for-incremental-learning-with-llm 是模型训练领域的开源项目，由 zzz47zzz 开发，2023 年首次发布。
它收录于模型训练分类，该分类目前共有 522 个项目，GitHub 星标数为 63。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-08-01。开源代码库，无在线服务，需自行部署，完全免费。
它主要面向的使用场景是：NLP研究者复现增量学习论文实验。同类可对比的替代方案包括 Hugging Face Transformers (增量学习相关示例)、Continual Learning Benchmarks (如CLIB)、Mammo…。
Long-RL
开源
让强化学习轻松驾驭超长序列，训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性，长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型，练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型，推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···
