ViT-Prisma

打开视觉Transformer黑箱，看清内部机制

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 评测安全 🍴 复刻 42 🐛 待处理 35 👀 关注 14
GitHub ↗
GitHub 星标 ★ 397
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费，无在线服务

项目预览

ViT-Prisma 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类评测安全
开发团队Prisma-Multimodal
GitHubhttps://github.com/Prisma-Multimodal/ViT-Prisma
定价模式🏷️完全免费
价格说明开源免费，无在线服务
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议MIT
主要语言Jupyter Notebook
GitHub 星标★ 397
上线时间2023-10-02 00:00:00
代码更新2026-10-07
仓库体积297.8 MB
本站数据更新2026-11-01
维护状态较活跃
收录时间2026-11-01
浏览次数0

项目介绍

ViT-Prisma 是面向视觉 Transformer（ViT）与视频 Transformer 的机制可解释性开源库，帮助研究者打开模型黑箱，观察内部表征如何形成。它解决的核心问题是：视觉 Transformer 虽在分类、检测、视频理解等任务上表现强劲，但内部计算过程难以追踪，现有可解释工具多针对语言模型，缺少适配视觉架构的系统方案。项目提供统一接口，用于提取中间层激活、注意力图与残差流，并支持对注意力头、MLP 神经元和跨层信息流做因果干预与消融实验，从而定位影响预测的关键组件。库内附带可视化与实验脚本，便于复现和对比不同模型规模下的机制规律。适合机制可解释性研究、模型安全评测与教学演示，帮助团队在部署前理解视觉模型的决策依据与潜在偏差。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-11-01 · 当前星标 ★ 397

核心亮点

  • 统一封装 ViT 与视频 Transformer 的激活、注意力与残差流提取接口
  • 支持注意力头与 MLP 神经元的因果干预和消融，便于做机制验证
  • 附带可视化与实验脚本，降低复现机制可解释性研究的门槛

不足之处

  • 以 Jupyter Notebook 为主，工程化封装和 API 稳定性有待加强
  • 社区规模较小，文档与示例覆盖度仍在完善中

适用场景

  • 研究视觉 Transformer 内部注意力头与电路的功能分工
  • 对视觉模型做安全评测，定位影响预测的关键神经元
  • 教学演示中可视化模型中间表征与因果干预效果

替代项目

TransformerLens、Captum、BertViz

上一篇：bla

下一篇：Awesome-MCoT

同类项目推荐

appworld 开源

在真实模拟世界里，测试你的 AI 智能体会不会办事。

AppWorld: A Controllable World of Apps and People for Benchmarking Function Calling ···

★ 543 2026-08-09
genai-bench 开源

token 级压测 LLM 服务，选型调优有据可依

Genai-bench is a powerful benchmark tool designed for comprehensive token-level perf···

★ 332 2026-10-23
llm-guard 开源

给 LLM 应用加把安全锁，防注入防泄露

The Security Toolkit for LLM Interactions

★ 3220 2026-08-09
prompttools 开源

一键对比测试提示词，选对模型和参数不再靠猜

Open-source tools for prompt testing and experimentation, with support for both LLMs···

★ 3060 2026-08-09
Modality-Integration-Rate 开源

量化视觉-语言模型跨模态对齐，诊断融合短板

[ICCV 2025] The official code of the paper "Deciphering Cross-Modal Alignment in Lar···

★ 114 2026-08-09
Video-MME-v2 开源

评测视频大模型，从看懂片段到理解长视频全场景。

Video-MME-v2: Towards the Next Stage in Benchmarks for Comprehensive Video Understan···

★ 367 2026-08-09
ClawBench 开源

测测你的浏览器AI智能体，日常任务完成得怎么样

Open-source benchmark for browser AI agents on daily tasks.

★ 1166 2026-08-09
DallEval 开源

测出文生图模型的推理短板与偏见，优化生成质量

DALL-Eval: Probing the Reasoning Skills and Social Biases of Text-to-Image Generatio···

★ 141 2026-08-09