nnterp

一套接口读改任意大模型内部，可解释性实验不再重复造轮子

nnterp 是一个面向大语言模型机制可解释性研究的 Python 工具库，核心目标是统一访问 LLM 内部模块。它基于 NNsight 框架构建，把不同模型架构（如 Llama、GPT、Pythia 等）中命名各异的注意力层、MLP、残差流等组件，抽象成一套一致的接口，让研究者不必为每个模型单独写适配代码。项目还整合了 patchscopes 等可解释性技术，支持激活值干预、路径追踪、表示读取等操作。它解决的是可解释性研究中模型结构差异导致代码重复、实验难以迁移的问题，让研究人员能更快地在多个模型上复用同一套分析流程。项目处于早期阶段，星标约 120，适合做激活探针、因果追踪、表示工程等实验的开发者使用。