CUDA-L2

用强化学习自动写出比 cuBLAS 更快的矩阵乘法内核

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 33 🐛 待处理 5 👀 关注 4
GitHub ↗
GitHub 星标 ★ 487
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,无付费版本。

项目预览

CUDA-L2 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队ornith-ai
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Cuda
技术栈/模型cublas,cuda-kernels,large-language-models,matrix-multiplication,nvidia,reinforcement-learning
GitHub 星标★ 487
上线时间2025-12-02 00:00:00
代码更新2026-03-30
仓库体积2.9 MB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数6

项目介绍

CUDA-L2 是一个通过强化学习自动生成高性能矩阵乘法内核的开源项目,目标是在 NVIDIA GPU 上超越 cuBLAS 的性能。它解决了传统手写 CUDA 内核开发门槛高、调优耗时的问题,将内核设计视为一个强化学习问题,让智能体在巨大的设计空间中探索最优的 tile 大小、循环顺序、内存布局等配置。核心能力包括:自动搜索和生成针对特定 GPU 架构优化的矩阵乘法内核,支持多种矩阵尺寸,并通过奖励函数引导模型学习性能最优的代码结构。项目展示了强化学习在底层计算优化中的潜力,为高性能计算领域提供了一种新的自动化路径。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 487

使用教程

难度:高级 约 90 分钟 部署方式:本地GPU 5 步

环境要求

  • CUDA 显卡
  • C++ 编译环境
  • 指定版本矩阵库

安装与启动步骤

  1. 1拉指定版本的矩阵库

    它锁一个具体版本,别用最新。

    git clone -b v4.2.1 https://github.com/NVIDIA/cutlass.git cutlass
  2. 2备编译环境

    它要现场编译内核。

  3. 3跑基线对比

    先复现官方给的对比结果。

  4. 4按自己的矩阵形状调

    形状不同最优策略不同。

  5. 5看相对官方库的差距

    它的目标是超过官方实现的性能。

如何确认成功

在同一批矩阵形状上跑出自研内核与官方库的对比数据,性能差距与论文报告的方向一致

注意事项

  • 它用强化学习搜索矩阵乘法的内核实现,目标是超过官方库。
  • 依赖特定版本的底层矩阵库,版本换了结果不可比。
  • 矩阵形状决定最优策略,别只看一个形状的成绩。
  • 复现成本高,先跑官方给的对比脚本。

核心亮点

  • 性能卓越:在多种矩阵尺寸上超越 NVIDIA 官方 cuBLAS,实测数据支撑
  • 自动化调优:无需人工专家经验,强化学习自动探索最优内核配置
  • 方法创新:将 RL 应用于底层算子优化,开辟新研究方向

不足之处

  • 项目早期,文档和社区生态尚不完善
  • 仅支持特定 GPU 架构,通用性待验证

适用场景

  • 深度学习框架中矩阵乘法的性能优化
  • 科学计算中大规模矩阵运算加速
  • GPU 内核自动生成与调优研究

替代项目

Triton、cutlass、TVM

上一篇:Spatial-SSRL

下一篇:spiral

同类项目推荐

LoRI 开源

多任务微调不打架,LoRA 参数更高效

[COLM 2025] LoRI: Reducing Cross-Task Interference in Multi-Task Low-Rank Adaptation

★ 175 2026-08-09
Kardia-R1 开源

让AI学会共情,用强化学习提升情感支持回复质量

[WWW] Kardia-R1: Unleashing LLMs to Reason toward Understanding and Empathy for Emot···

★ 60 2026-08-09
sagify 开源

一条命令把本地模型部署到 AWS SageMaker,省心省力

LLMs and Machine Learning done easily

★ 444 2026-08-09
examples 开源

看示例,快速上手 Neptune 实验管理

Examples of how to use Neptune for different use cases and with various MLOps tools

★ 86 2026-08-09
merge-models 开源

按比例融合两个扩散模型,快速生成新风格模型

Merges two latent diffusion models at a user-defined ratio

★ 262 2026-08-09
Model-Optimizer 开源

一站式压缩大模型,导出即加速推理

A unified library of SOTA model optimization techniques like quantization, distillat···

★ 5579 2026-10-07
paradigms 开源

并行采样加速扩散模型,少步生成高质量图像

PyTorch implementation for "Parallel Sampling of Diffusion Models", NeurIPS 2023 Spo···

★ 159 2026-08-09
EAGLE 开源

让大模型生成速度翻倍,无需牺牲输出质量

Official Implementation of EAGLE-1 (ICML'24), EAGLE-2 (EMNLP'24), and EAGLE-3 (NeurI···

★ 2574 2026-08-09
diffusion_distiller 开源

把扩散模型蒸馏成少步采样,生成速度提升数倍

PyTorch Implementation of "Progressive Distillation for Fast Sampling of Diffusion M···

★ 260 2026-08-09