整理激活工程资源，助你精准操控AI模型行为
这是一个精选资源列表，专注于“激活工程”（Activation Engineering）领域，即通过修改神经网络内部激活值来引导模型行为的技术。项目整理了相关论文、博客、代码库和工具，帮助研究者和开发者理解并应用诸如激活添加、激活编辑、表示工程等方法。它解决了如何以更细粒度、可解释的方式控制大语言模型（如GPT、Llama）的输出，而不必依赖复杂的提示工程或微调。核心能力在于系统化地汇总分散的学术资源和实践案例，降低入门门槛，促进该新兴领域的交流与探索。
awesome-representation-engineering、interpretable-ml、AI-Interpretability
awesome-activation-engineering 是模型训练领域的开源项目，由 ZFancy 开发，2025 年首次发布。
它收录于模型训练分类，该分类目前共有 522 个项目，GitHub 星标数为 141。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-19。开源资源列表，完全免费，无付费版本。
它主要面向的使用场景是：研究激活工程的技术原理和最新进展。同类可对比的替代方案包括 awesome-representation-engineering、interpretable-ml、AI-Interpretability。
下一篇：VeriThinker
Long-RL
开源
让强化学习轻松驾驭超长序列，训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性，长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型，练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型，推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···
