axbench

给LLM解释方法打分，选出真正有用的那个

axbench 是斯坦福 NLP 团队推出的 Python 库，用于系统化评估大语言模型可解释性方法的实际效用。它解决的核心问题是：当前众多解释性方法（如注意力可视化、梯度归因等）缺乏统一、可量化的评测标准，导致研究者难以判断哪种方法真正有助于理解模型行为。axbench 提供标准化的基准测试框架，涵盖多种解释性任务的评估协议，支持对解释方法在忠实度、稳定性、有用性等维度上的自动打分，并集成常见模型与数据集接口。其核心能力包括：统一的评估 API、可扩展的基准任务集、以及结果可视化与对比工具。通过 axbench，研究者可以快速对比不同可解释性方法的优劣，推动该领域向更严谨、可复现的方向发展。

开源 free 开源模型

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 216

维护状态低维护

是否开源是

定价模式 free

项目数据

分类开源模型

开发团队stanfordnlp

所属国家

官网地址https://stanfordnlp.github.io/axbench

GitHubhttps://github.com/stanfordnlp/axbench

定价模式free

价格说明开源库，Apache-2.0 许可证，完全免费，无在线服务，需自行部署。

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型interpretability,intervention,large-language-models,llm-steering,mechanistic-interpretability

GitHub 星标★ 216

30天Star增速

HF 下载量

上线时间2024-08-07 00:00:00

最近更新2026-09-10 00:00:00

维护状态低维护

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数2

使用教程

核心亮点

来自斯坦福NLP团队，学术背景扎实，方法论严谨
提供标准化评估协议，解决可解释性方法难以横向对比的痛点
支持多种任务和模型接口，易于扩展自定义基准

不足之处

项目处于早期阶段（211星），文档和社区生态尚不完善
评估指标和基准任务覆盖范围有限，可能不适用于所有解释场景

适用场景

学术研究中对比不同可解释性方法的有效性
开发可解释AI系统时筛选合适的解释技术
为模型审计和合规性评估提供量化依据

替代项目

Captum、SHAP、InterpretML

项目介绍

axbench 是评测安全领域的开源项目，由 stanfordnlp 开发，2024 年首次发布。

它收录于评测安全分类，该分类目前共有 458 个项目，GitHub 星标数为 216。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-10。开源库，Apache-2.0 许可证，完全免费，无在线服务，需自行部署。

它主要面向的使用场景是：学术研究中对比不同可解释性方法的有效性。同类可对比的替代方案包括 Captum、SHAP、InterpretML。

上一篇：PhyX

下一篇：LLM-KG-Bench