diffusers-interpret

给扩散模型生成图像做“X光”，看清AI为何这么画

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 图像生成 🍴 复刻 14 🐛 待处理 2 👀 关注 6
GitHub ↗
GitHub 星标 ★ 277
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目，MIT许可证，完全免费，无付费版本。

项目预览

diffusers-interpret 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类图像生成
开发团队JoaoLages
GitHubhttps://github.com/JoaoLages/diffusers-interpret
定价模式🏷️完全免费
价格说明开源项目，MIT许可证，完全免费，无付费版本。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议MIT
主要语言Jupyter Notebook
技术栈/模型computer-vision,deep-learning,diffusers,diffusion,explainable-ai,image-generation,interpretability,model-explainability,primary-attributions,pytorch,text2image,transformers
GitHub 星标★ 277
上线时间2022-08-26 00:00:00
代码更新2022-10-05
仓库体积79.4 MB
本站数据更新2026-11-08
维护状态低维护
收录时间2026-08-09
浏览次数5

项目介绍

Diffusers-Interpret 是一个面向 Hugging Face Diffusers 模型的可解释性工具库，旨在帮助开发者和研究者理解扩散模型生成图像背后的决策逻辑。它解决了扩散模型黑盒问题，即用户难以知晓生成图像时模型关注了哪些特征或区域。核心能力包括：提供多种解释方法（如注意力图、梯度归因等），可视化模型在生成过程中的内部状态，支持对文本到图像和图像到图像等任务进行归因分析。通过简洁的API，用户可以快速获取生成图像的解释结果，从而调试模型、验证提示词影响或进行学术研究。项目基于Jupyter Notebook开发，适合交互式探索，目前处于早期阶段，社区贡献活跃。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 277

核心亮点

  • 提供多种可解释性方法（如注意力热力图），直观展示模型关注区域
  • 与Diffusers生态无缝集成，支持主流Stable Diffusion等模型
  • 交互式Notebook示例，上手门槛低，便于快速实验

不足之处

  • 项目处于早期，文档和API稳定性待完善
  • 解释方法可能仅覆盖部分模型架构，泛化性有限

适用场景

  • 调试提示词：分析哪些词影响了生成图像的特定区域
  • 学术研究：研究扩散模型内部机制和偏见
  • 模型审计：验证生成内容是否符合伦理规范

替代项目

Captum、SHAP、LIME

上一篇：text2image-benchmark

下一篇：semantic-object-accuracy-for-generative-text-to-image-synthesis

同类项目推荐

UHGEval 开源

一键测出大模型胡说八道，量化幻觉风险

[ACL 2024] User-friendly evaluation framework: Eval Suite & Benchmarks: UHGEval, Hal···

★ 183 2026-08-09
merchantbench 开源

365天订单级仿真，测LLM智能体长期经营是否前后一致

MerchantBench is a 365-day, order-level benchmark for evaluating the long-term coher···

★ 172 2026-11-06
inseq 开源

一键透视生成模型，看透每个 token 的决策依据

Interpretability for sequence generation models

★ 477 2026-08-09
VideoGen-Eval 开源

给视频生成模型打分，自动评测多维度质量

VideoGen-Eval: Agent-based System for Video Generation Evaluation

★ 272 2026-08-09
AI-Infra-Guard 开源

一键扫描AI全链路，提前揪出安全漏洞

A full-stack AI Red Teaming platform securing AI ecosystems via Agent Scan, Skills S···

★ 7430 2026-08-09
VLMEvalKit 开源

一键评测 220+ 多模态模型，秒出对比报告

Open-source evaluation toolkit of large multi-modality models (LMMs), support 220+ L···

★ 4475 2026-08-09
compute-eval 开源

用真实编译运行测大模型写 CUDA 代码行不行

Evaluating Large Language Models for CUDA Code Generation ComputeEval is a framework···

★ 150 2026-09-24
bla 开源

给代码下毒，让 AI 逆向代理白忙一场

️ BLA (Blind LLM Agents) — Adversarial defense shield that protects binaries, Elec···

★ 3609 2026-10-31