daam

看透Stable Diffusion：让每个词在生成图像中的影响一目了然

DAAM（Diffusion Attentive Attribution Maps）是一个用于解释Stable Diffusion模型内部机制的可解释性AI工具。它通过分析扩散模型在去噪过程中的注意力权重，生成与文本提示词对应的注意力热力图，直观展示图像生成过程中每个词对最终画面像素的影响程度。该项目解决了生成式AI的“黑箱”问题，帮助研究者和开发者理解Stable Diffusion如何将文本语义映射到视觉特征，定位特定物体或风格在图像中的来源。核心能力包括：自动提取UNet各层的交叉注意力图、生成词级空间归因图、支持与HuggingFace Diffusers库无缝集成，并提供了可视化工具和示例代码。用户可借此调试提示词、分析模型偏见或进行生成过程的细粒度控制。项目基于PyTorch实现，以Jupyter Notebook为主要载体，适合快速上手和二次开发。