
awesome-llm-interpretability
一页看全大模型可解释性论文与工具
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-10-28 · 当前星标 ★ 1658
技术标签
使用教程
⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。
⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。
环境要求
- 已安装 git(用于克隆仓库)
- 本地有可用的文本编辑器或终端分页工具(cat、less 等)
- 浏览器(用于打开清单中收录的论文、工具与社区链接)
- 无需 Python、Node.js 等运行时环境,项目本身不含可执行代码
安装与启动步骤
-
1确认本地环境
这是一个 awesome-list 资源清单仓库,没有安装脚本和依赖。只需准备 git 与浏览器即可开始。
git --version -
2克隆清单仓库
把仓库完整下载到本地,便于离线查阅和后续更新。地址取自项目 GitHub 主页。
git clone https://github.com/JShollaj/awesome-llm-interpretability.git -
3进入项目目录
切换到克隆下来的目录,后续所有查看操作都在此目录进行。
cd awesome-llm-interpretability -
4查看清单内容
README 是唯一主体内容,按 Tools、Papers、Articles、Groups 四类组织,可整篇阅读。
cat README.md -
5按主题检索条目
清单较长,可用关键词过滤定位条目,如 attention、sparse autoencoder、probing 等。
grep -n -i "attention" README.md -
6定期同步更新
清单由维护者持续补充,隔一段时间拉取一次即可获得新增论文与工具。
git pull
如何确认成功
进入仓库目录后能看到 README.md,且其中包含 Tools、Papers、Articles、Groups 四个章节标题,即说明获取成功。
常见问题
Q:需要安装依赖或启动服务吗?
A:不需要。仓库是纯文档型资源清单,没有源代码、安装脚本或服务端口,克隆后直接阅读 README 即可。
Q:为什么没有 pip、npm 或 docker 命令?
A:README 只提供分类整理的论文、工具与社区链接,未给出任何安装或运行说明,因此教程仅包含获取与查阅文档的步骤。
Q:清单里的链接打不开怎么办?
A:部分外链可能因网络状况或仓库迁移暂时不可用。可稍后重试,或在搜索引擎中按条目标题检索替代入口,也可查看该项目的镜像页面。
Q:怎样跟进最新收录内容?
A:在仓库目录执行 git pull 拉取更新;也可在 GitHub 页面使用 Watch 功能订阅仓库变更通知。
Q:可以把它用于团队调研吗?
A:可以。清单按主题分类,适合作为课程阅读列表或团队调研的起点,但条目由人工筛选,引用前建议自行核对原文与工具可用性。
注意事项
- 本项目是 awesome-list 资源索引,不提供任何可运行代码或模型权重。
- README 中未给出安装、配置与端口信息,故本教程不含运行验证环节。
- 清单条目的质量和时效由维护者决定,使用前请自行确认链接有效性与论文出处。
核心亮点
- 按主题与资源类型分类清晰,覆盖论文、工具、教程、数据集多种形态
- 聚焦可解释性细分方向,比通用 AI 清单更垂直、检索成本更低
- 持续收录新工作,可作为跟踪该领域进展的轻量入口
不足之处
- 仅为链接索引,不含代码或可运行示例,无法直接验证资源质量
- 条目质量依赖维护者筛选,部分分类深度与更新频率可能不均
适用场景
- 研究生入门可解释性方向时快速建立文献地图
- 算法团队调研模型内部机制与调试工具选型
- 安全评测人员查找归因、探针与因果分析相关方法
替代项目
awesome-machine-learning、awesome-deep-learning、TransformerLens
同类项目推荐
agent-python-pytest
开源
pytest 跑完自动上报报告,结果集中可查
Framework integration with PyTest
factualNLG
开源
用新基准测出LLM事实性推理真实水平
Code for the arXiv paper: "LLMs as Factual Reasoners: Insights from Existing Benchma···
Awesome-LLMSecOps
开源
一库在手,LLM 安全运营全链路资源速查
LLM | Agentic | Security | Operations in one github repo with good links and picture···
litmus
开源
拖拽式搭建 LLM 测试,快速看清模型表现
Litmus is a comprehensive LLM testing and evaluation tool designed for GenAI Applica···
MIND
开源
测测你的视频生成模型,记忆和动作控制靠不靠谱
The first open-domain closed-loop revisited benchmark for evaluating memory consiste···
frontier-evals
开源
用统一标准跑分,快速对比前沿模型真实能力
OpenAI Frontier Evals
confabulations
开源
测出RAG系统胡说八道,用人工验证问答对量化幻觉
Hallucinations (Confabulations) Document-Based Benchmark for RAG. Includes human-ver···
daam
开源
看透Stable Diffusion:让每个词在生成图像中的影响一目了然
Diffusion attentive attribution maps for interpreting Stable Diffusion.
halo-record
开源
给 AI 代理装上防篡改黑匣子,操作记录人人可验
Tamper-evident audit trails for AI agents: hash-chained Runtime Records, dependency-···