nnterp

一套接口读改任意大模型内部,可解释性实验不再重复造轮子

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 12 🐛 待处理 16 👀 关注 1
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 123
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,基于NNsight的LLM模块访问工具

项目预览

nnterp 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队ndif-team
定价模式🏷️完全免费
价格说明开源免费,基于NNsight的LLM模块访问工具
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言HTML
技术栈/模型mechanistic-interpretability,nnsight,patchscopes
GitHub 星标★ 123
上线时间2024-08-08 00:00:00
代码更新2026-11-06
仓库体积6.6 MB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-09-25
浏览次数2

项目介绍

nnterp 是一个面向大语言模型机制可解释性研究的 Python 工具库,核心目标是统一访问 LLM 内部模块。它基于 NNsight 框架构建,把不同模型架构(如 Llama、GPT、Pythia 等)中命名各异的注意力层、MLP、残差流等组件,抽象成一套一致的接口,让研究者不必为每个模型单独写适配代码。项目还整合了 patchscopes 等可解释性技术,支持激活值干预、路径追踪、表示读取等操作。它解决的是可解释性研究中模型结构差异导致代码重复、实验难以迁移的问题,让研究人员能更快地在多个模型上复用同一套分析流程。项目处于早期阶段,星标约 120,适合做激活探针、因果追踪、表示工程等实验的开发者使用。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-25 · 当前星标 ★ 123

核心亮点

  • 用统一抽象屏蔽不同模型层命名差异,换模型时分析代码基本不用改
  • 构建在 NNsight 之上,可直接做激活读取与干预,适合因果追踪类实验
  • 内置 patchscopes 等可解释性方法,开箱即用减少重复实现

不足之处

  • 项目早期,支持的模型覆盖面和 API 稳定性仍有限
  • 文档与示例相对较少,新用户上手需要一定 NNsight 基础

适用场景

  • 在多个开源 LLM 上做同一套激活探针实验,对比内部表示差异
  • 对特定注意力头或 MLP 层做干预,观察输出变化以验证因果假设
  • 用 patchscopes 类方法把隐层表示解码成文本,分析模型内部知识

替代项目

NNsight、TransformerLens、baukit

上一篇:NpgsqlRest

下一篇:langsmith-fetch

同类项目推荐

runntime 开源

在浏览器里用 GPU 跑神经网络推理

High-performance neural networks engine for web, built on top of TypeGPU

★ 120 2026-11-02
OpenMLDB 开源

用SQL统一训练与推理特征,告别线上线下不一致

OpenMLDB is an open-source machine learning database that provides a feature platfor···

★ 1716 2026-08-09
agent-sandbox 开源

在 K8s 上给每个 AI Agent 开一间独立有状态的沙箱

agent-sandbox enables easy management of isolated, stateful, singleton workloads, id···

★ 4555 2026-10-12
zeroid 开源

给 AI 智能体发身份证,让它们安全自主地访问服务

Highflame ZeroID: Autonomous Agent Identity Management System (AAIMS)

★ 212 2026-08-09
vllm-plugin-FL 开源

让 vLLM 一套代码跑多种国产芯片

A vLLM plugin built on the FlagOS unified multi-chip backend.

★ 141 2026-10-14
tart 开源

在 Apple Silicon 上秒级拉起 macOS/Linux 虚拟机跑 CI

macOS and Linux VMs on Apple Silicon to use in CI and other automations

★ 7828 2026-10-26
agentgateway 开源

给 AI Agent 装个智能网关,统一管理 API、MCP 和权限,让调用更安全可控。

Next Generation Agentic Proxy for AI Agents and MCP servers

★ 6041 2026-08-09
metaai-api 开源

免 Key 调用 Meta AI,快速集成聊天、生图、生视频

FastAPI wrapper for Meta AI with chat, image generation & video generation. Easy dep···

★ 96 2026-08-09
pawwake 开源

给任意 LLM 加长期记忆,不改造应用

给AI加长期记忆的轻量网关 / A lightweight gateway that adds long-term memory to any L···

★ 169 2026-09-12