awesome-llm-interpretability

一页看全大模型可解释性论文与工具

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 121 🐛 待处理 6 👀 关注 22
GitHub ↗
GitHub 星标 ★ 1658
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费资源列表

项目预览

awesome-llm-interpretability 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队JShollaj
定价模式🏷️完全免费
价格说明开源免费资源列表
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
技术栈/模型awesome,awesome-list
GitHub 星标★ 1658
上线时间2023-12-23 00:00:00
代码更新2026-10-25
仓库体积140 KB
本站数据更新2026-10-28
维护状态活跃
收录时间2026-10-28
浏览次数0

项目介绍

这是一个聚焦大语言模型可解释性研究的资源清单项目,以 awesome-list 形式系统整理该领域的论文、工具、教程与数据集。它解决的是可解释性方向资料分散、入门者难以快速建立全局认知的问题,通过人工筛选与分类,把注意力可视化、神经元与电路分析、探针与特征归因、稀疏自编码器、因果干预、模型编辑等主题汇聚到一处,并持续跟进新成果。核心能力包括按研究主题与资源类型导航、快速定位代表性工作与开源实现、作为课程或团队调研的起点。项目本身不含代码实现,价值在于索引质量与维护频率,适合研究者、工程师与安全评测人员作为查阅入口。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-28 · 当前星标 ★ 1658

技术标签

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:入门 约 5 分钟 部署方式:本地安装 6 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 已安装 git(用于克隆仓库)
  • 本地有可用的文本编辑器或终端分页工具(cat、less 等)
  • 浏览器(用于打开清单中收录的论文、工具与社区链接)
  • 无需 Python、Node.js 等运行时环境,项目本身不含可执行代码

安装与启动步骤

  1. 1确认本地环境

    这是一个 awesome-list 资源清单仓库,没有安装脚本和依赖。只需准备 git 与浏览器即可开始。

    git --version
  2. 2克隆清单仓库

    把仓库完整下载到本地,便于离线查阅和后续更新。地址取自项目 GitHub 主页。

    git clone https://github.com/JShollaj/awesome-llm-interpretability.git
  3. 3进入项目目录

    切换到克隆下来的目录,后续所有查看操作都在此目录进行。

    cd awesome-llm-interpretability
  4. 4查看清单内容

    README 是唯一主体内容,按 Tools、Papers、Articles、Groups 四类组织,可整篇阅读。

    cat README.md
  5. 5按主题检索条目

    清单较长,可用关键词过滤定位条目,如 attention、sparse autoencoder、probing 等。

    grep -n -i "attention" README.md
  6. 6定期同步更新

    清单由维护者持续补充,隔一段时间拉取一次即可获得新增论文与工具。

    git pull

如何确认成功

进入仓库目录后能看到 README.md,且其中包含 Tools、Papers、Articles、Groups 四个章节标题,即说明获取成功。

常见问题

Q:需要安装依赖或启动服务吗?

A:不需要。仓库是纯文档型资源清单,没有源代码、安装脚本或服务端口,克隆后直接阅读 README 即可。

Q:为什么没有 pip、npm 或 docker 命令?

A:README 只提供分类整理的论文、工具与社区链接,未给出任何安装或运行说明,因此教程仅包含获取与查阅文档的步骤。

Q:清单里的链接打不开怎么办?

A:部分外链可能因网络状况或仓库迁移暂时不可用。可稍后重试,或在搜索引擎中按条目标题检索替代入口,也可查看该项目的镜像页面。

Q:怎样跟进最新收录内容?

A:在仓库目录执行 git pull 拉取更新;也可在 GitHub 页面使用 Watch 功能订阅仓库变更通知。

Q:可以把它用于团队调研吗?

A:可以。清单按主题分类,适合作为课程阅读列表或团队调研的起点,但条目由人工筛选,引用前建议自行核对原文与工具可用性。

注意事项

  • 本项目是 awesome-list 资源索引,不提供任何可运行代码或模型权重。
  • README 中未给出安装、配置与端口信息,故本教程不含运行验证环节。
  • 清单条目的质量和时效由维护者决定,使用前请自行确认链接有效性与论文出处。

核心亮点

  • 按主题与资源类型分类清晰,覆盖论文、工具、教程、数据集多种形态
  • 聚焦可解释性细分方向,比通用 AI 清单更垂直、检索成本更低
  • 持续收录新工作,可作为跟踪该领域进展的轻量入口

不足之处

  • 仅为链接索引,不含代码或可运行示例,无法直接验证资源质量
  • 条目质量依赖维护者筛选,部分分类深度与更新频率可能不均

适用场景

  • 研究生入门可解释性方向时快速建立文献地图
  • 算法团队调研模型内部机制与调试工具选型
  • 安全评测人员查找归因、探针与因果分析相关方法

替代项目

awesome-machine-learning、awesome-deep-learning、TransformerLens

上一篇:human-eval

下一篇:Awesome-Trustworthy-AudioLLMs

同类项目推荐

factualNLG 开源

用新基准测出LLM事实性推理真实水平

Code for the arXiv paper: "LLMs as Factual Reasoners: Insights from Existing Benchma···

★ 60 2026-08-09
Awesome-LLMSecOps 开源

一库在手,LLM 安全运营全链路资源速查

LLM | Agentic | Security | Operations in one github repo with good links and picture···

★ 167 2026-08-10
litmus 开源

拖拽式搭建 LLM 测试,快速看清模型表现

Litmus is a comprehensive LLM testing and evaluation tool designed for GenAI Applica···

★ 52 2026-08-09
MIND 开源

测测你的视频生成模型,记忆和动作控制靠不靠谱

The first open-domain closed-loop revisited benchmark for evaluating memory consiste···

★ 81 2026-08-09
frontier-evals 开源

用统一标准跑分,快速对比前沿模型真实能力

OpenAI Frontier Evals

★ 1326 2026-10-22
confabulations 开源

测出RAG系统胡说八道,用人工验证问答对量化幻觉

Hallucinations (Confabulations) Document-Based Benchmark for RAG. Includes human-ver···

★ 250 2026-08-09
daam 开源

看透Stable Diffusion:让每个词在生成图像中的影响一目了然

Diffusion attentive attribution maps for interpreting Stable Diffusion.

★ 803 2026-08-09
halo-record 开源

给 AI 代理装上防篡改黑匣子,操作记录人人可验

Tamper-evident audit trails for AI agents: hash-chained Runtime Records, dependency-···

★ 85 2026-08-09