gpu 第 2 页
本站收录 82 个带「gpu」标签的 AI 开源项目（按 GitHub 星标从高到低，第 2 / 2 页）
LLMKubeLLMKube 是一个 Kubernetes Operator，用于在异构 GPU 集群上自托管大模型推理。它解决的核心问题是：家里或公司机房里混着 NVIDI★ 241
homelab-monitorhomelab-monitor 是一个即插即用的家庭实验室（homelab）仪表盘，以单个容器形式部署，集中展示 GPU 使用率、本地 AI 显存占用、Dock★ 221
aimirroraimirror 是一个面向 AI 时代的下载加速工具，通过并行分片与智能缓存技术，将模型、数据集等大文件的下载速度提升至原来的 200 倍。它支持 Docke★ 216
isaac_ros_object_detectionisaac_ros_object_detection 是 NVIDIA 为 ROS 2 生态提供的图像空间目标检测加速包，属于 Isaac ROS 系列。它把深★ 205
GammaCVGammaCV 是一个面向浏览器环境的 WebGL 加速计算机视觉库，使用 JavaScript 编写。它把图像处理与特征提取等常见 CV 操作搬到 GPU 上★ 195
tracemlTraceML 是一个开源的 PyTorch 训练性能诊断工具，旨在帮助开发者定位和解决训练过程中的性能瓶颈。它通过自动捕获和分析训练运行时的性能数据，提供可视★ 189
get-startedget-started 是一个面向 Ollama 的云原生部署堆栈，旨在将本地运行的 Ollama 模型服务扩展到云端。它解决的核心问题是：如何让基于 Olla★ 181
env-doctorenv-doctor 是一个用于诊断和修复 CUDA/GPU 环境兼容性问题的命令行工具，同时提供 MCP（Model Context Protocol）服务器★ 172
rapidfireaiRapidFire AI 是一个面向开发者的 AI 定制化平台，旨在简化从 RAG（检索增强生成）到模型微调的整个流程。它解决了 AI 应用落地过程中定制化门槛★ 171
locate-anythinglocate-anything 是一个为 NVIDIA LocateAnything-3B 模型打造的轻量级 Web 界面，通过一条 docker compos★ 164
FLAMEGPU2FLAMEGPU2 是一个面向复杂系统仿真的 GPU 加速智能体建模框架，支持 CUDA C++ 和 Python 两种开发方式。它解决的核心问题是：传统基于 ★ 157
How-to-use-tesla-p40这是一份关于如何使用特斯拉P40 GPU进行AI推理（特别是Stable Diffusion图像生成）的实用手册。它解决了P40显卡（无视频输出接口、被动散热、★ 156
arkorarkor 是一个专注于大模型微调的 TypeScript 框架，旨在为开发者提供高效、类型安全的微调工具链。它解决了传统微调流程中 Python 生态绑定深、★ 144
gpu-recipesgpu-recipes 是 Google Cloud 官方维护的开源配方集合，提供在 GCP 上使用 GPU 复现大模型训练与推理服务基准测试的完整步骤。它解决★ 144
keda-gpu-scalerkeda-gpu-scaler 是一个基于 KEDA 外部 gRPC 扩展器的 GPU 自动扩缩容组件。它通过 DaemonSet 方式在每个节点上运行，直接利★ 136
isaac_ros_image_segmentationisaac_ros_image_segmentation 是 NVIDIA 推出的 ROS2 语义分割加速包，基于 TensorRT 和 GPU 推理，为 Je★ 128
neoismneoism 是一个基于 GPU 渲染、终端优先的集成工作区，用 Rust 构建。它将真实 Shell、受管理的 Neovim 编辑器、AI 代理、Markdo★ 126
titaniaTitania 是一个用 Rust 编写的完整大语言模型系统，目标是从 Transformer 架构一路打通到晶体管级实现，让单个开发者也能理解整个技术栈。项目★ 126
dscdsc 是一个用 C++ 实现的机器学习张量库与推理框架，旨在为深度学习模型提供基础的数据结构和计算能力。它解决的是在资源受限或需要定制化部署环境中，开发者难以★ 119
UGTLiveUGTLive 是一款面向游戏玩家、漫画读者和语言学习者的实时屏幕翻译工具。它通过 GPU 加速的 OCR 识别屏幕上任意区域的外文文本，再调用 LLM（支持 ★ 117
torchebmtorchebm 是一个基于 PyTorch 的生成建模库，专注能量基模型（EBM）、扩散模型、流匹配和薛定谔桥等现代生成方法的训练。它解决的核心问题是：传统 ★ 116
OpenTranscribeOpenTranscribe 是一个可自托管的 AI 语音转写平台，目标是把会议、访谈、播客等音视频内容自动转成可搜索、可协作的文字记录。它内置说话人分离（sp★ 101
clearml-fractional-gpuClearML Fractional GPU 是一个基础设施工具，旨在解决单个 GPU 上运行多个容器时的资源隔离问题。它通过驱动级内存限制和计算时间切片，让多★ 97
AceForgeAceForge 是一款面向 Apple/OSX 平台的本地优先 AI 音乐工作站，基于 Ace-Step、DeMucs 和 XTTSv2 构建。它解决的是音乐★ 94
tensorcircuit-ngTensorCircuit-NG 是新一代基于张量网络的量子软件框架，专为 AI 原生设计。它解决量子计算模拟中计算复杂度高、与机器学习框架集成难的问题，核心能★ 92
ROCm-RX6600XT这是一个面向AMD Radeon RX 6600 XT显卡的ROCm安装指南，旨在帮助用户在Linux系统上配置AMD GPU的深度学习环境，支持TensorF★ 85
draft-to-takeDraft to Take 是一个本地优先的 AI 音频制作工作室，旨在将粗糙的语音草稿快速转化为专业级音频成品。它利用 IndexTTS2 进行高质量语音合成★ 78
gpu-telemetrygpu-telemetry 是一个面向 GPU 可观测性的开源项目，核心解决 GPU 资源在 Kubernetes 或 Slurm 集群中“被谁使用”的问题。它★ 76
PalmHill.BlazorChatPalmHill.BlazorChat 是一个基于 Blazor WebAssembly、SignalR 和 WebAPI 构建的聊天应用与 API 项目，旨在★ 72
stable-diffusion-webui-forgestable-diffusion-webui-forge 是一个为 Stable Diffusion WebUI Forge 提供 Docker 镜像的项目，旨★ 62
remote-gpu-trainerremote-gpu-trainer 是一个面向深度学习实验生命周期的 Agent Skill 工具，旨在解决远程 GPU 训练中实验管理混乱、结果不可复现、交★ 42
vllm-chatterbox-streamvllm-chatterbox-stream 是一个基于 vLLM 推理引擎的多语言文本转语音（TTS）服务，兼容 OpenAI API 接口，支持实时 PCM★ 8