metal-flash-attention

在 Apple 芯片上让注意力计算飞起来，加速 Stable Diffusion 推理。

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署图像生成 🍴 复刻 44 🐛 待处理 5 👀 关注 14

GitHub ↗

GitHub 星标 ★ 615

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源项目，MIT许可证，完全免费，无付费版本。

项目预览

metal-flash-attention 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类图像生成

开发团队philipturner

GitHubhttps://github.com/philipturner/metal-flash-attention

定价模式🏷️完全免费

价格说明开源项目，MIT许可证，完全免费，无付费版本。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议MIT

主要语言Swift

技术栈/模型artificial-intelligence,attention-mechanism,high-performance-computing,metal,software-engineering,stable-diffusion,transformer-models

GitHub 星标★ 615

上线时间2023-06-23 00:00:00

代码更新2024-09-22

仓库体积9.5 MB

本站数据更新2026-11-09

维护状态低维护

收录时间2026-08-09

浏览次数6

项目介绍

metal-flash-attention 是一个基于 Apple Metal 高性能计算框架的 FlashAttention 移植实现，专为在 Apple 芯片（如 M1/M2 系列）上加速 Transformer 模型推理而设计。它解决了标准注意力机制在长序列场景下内存占用高、计算速度慢的问题，通过分块计算和内存优化，显著降低显存带宽需求并提升计算效率。该项目核心能力包括：提供 Metal 着色器实现的 FlashAttention 内核，支持 Stable Diffusion 等图像生成模型中的注意力计算加速，同时为 Swift 开发者提供高性能计算接口。作为早期项目，它展示了如何在 Apple 生态中利用 Metal 的并行计算能力优化 AI 工作负载，为后续更广泛的硬件加速方案提供了参考。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 615

技术标签

artificial-intelligence attention-mechanism high-performance-computing metal software-engineering

使用教程

难度：高级约 60 分钟部署方式：本地GPU 4 步

环境要求

Apple Silicon 机器
苹果图形工具链
注意力机制基础

安装与启动步骤

1克隆仓库

它是一组最小可维护的源文件，不是可安装的库。
```
git clone https://github.com/philipturner/metal-flash-attention
```
2按文档编译

走苹果的着色语言工具链，版本不匹配直接编译失败。
3对拍正确性

先和参考实现比对，确认数值误差在可接受范围。
4在长序列上测

短序列看不出优势，要拉到长上下文才有意义。