vulkan
本站收录 19 个带「vulkan」标签的 AI 开源项目
ncnnncnn 是腾讯开源的高性能神经网络推理框架,专为手机与嵌入式设备设计。它解决的是深度学习模型在算力、内存和功耗都受限的移动端难以高效运行的问题:通过纯 C++★ 24,063
MNNMNN是阿里巴巴开源的一款轻量级深度学习推理引擎,专注于移动端和边缘设备的高性能模型推理。它解决了在资源受限的设备上高效运行AI模型的问题,支持TensorFl★ 16,570
lemonadeLemonade 是一个面向本地 AI 应用的开源推理引擎,旨在让用户直接在自己的 GPU 和 NPU 上运行优化后的大语言模型。它解决了云端 AI 带来的隐私★ 6,242
audio.cppaudio.cpp 是一个基于 ggml 的纯 C++ 音频模型推理引擎,旨在为音频 AI 应用提供一体化、高性能的本地推理解决方案。它解决了传统音频 AI 工★ 4,343
spirula-studiospirula-studio 是一个跨厂商的 3D Gaussian Splatting 训练工具,目标是把视频一路处理成 splat 再到网格模型。它解决的核★ 2,498
node-llama-cppnode-llama-cpp 是一个将 llama.cpp 绑定到 Node.js 的库,让你能在本地机器上直接运行 AI 模型(如 Llama、Mistral★ 2,206
TranscriptionSuiteTranscriptionSuite 是一款完全本地运行的语音转文字桌面应用,支持 Windows、macOS 和 Linux。它解决的核心问题是隐私:所有音频★ 814
janasjanas 是一个纯 C 编写的本地大模型推理引擎,核心目标是让超出内存容量的模型也能在普通笔记本上高效运行。它通过把权重放在 NVMe 存储上并按需流式加载,★ 734
yzmayzma 是一个用 Go 语言直接封装 llama.cpp 的本地推理框架,目标是让 Go 开发者无需依赖 CGO 或外部服务,就能在应用中嵌入大语言模型和多模★ 676
light-ocrlight-ocr 是一个面向 Node.js 和 C++ 的快速离线 OCR 库,基于 PP-OCRv6 模型,解决在本地环境中进行文字识别时依赖云端 API★ 662
speech.cppspeech.cpp 是一个基于 ggml 的 C++ 语音全栈工具库,把语音合成、语音识别和语音活动检测(VAD)整合到同一套推理框架中。它支持 Qwen3-★ 477
bc250bc250 是一份面向 AMD BC-250(PS5 同款 APU 主板)的开源配置指南与脚本集合,目标是把这块廉价硬件变成可用的本地 AI 推理平台。它解决的★ 433
strix-halo-guidestrix-halo-guide 是一份针对 AMD Strix Halo(GFX1151,如 Radeon 8060S)平台本地 AI 部署的实测指南与基准测★ 372
qwenimage-ncnn-vulkan这是一个把通义千问图像模型 Qwen-Image-2.1 移植到 ncnn 推理框架的开源项目,用 C++ 编写并基于 Vulkan 做 GPU 加速。它解决的★ 362
RustingStrataRustingStrata 是一个用纯 Rust 编写的 Qwen GGUF 模型推理引擎,支持 Qwen3 到 Qwen3.8 系列,涵盖稠密模型与参数量达 ★ 279
Breeze-TTS-2.cppBreeze-TTS-2.cpp 是一个用 C++ 实现的中英双语文本转语音推理项目,基于 ggml/GGUF 生态,模型权重以 GGUF 格式分发,便于在本地★ 193
StableDiffusionUIStableDiffusionUI 是一个基于 Python 和 C# 构建的 Windows 桌面应用,旨在为 Stable Diffusion 模型提供简洁★ 127
libwaifulibwaifu 是一个用 Rust 与 C++ 编写的本地 AI 推理项目,面向图像生成与语音合成场景。它把 SDXL、Qwen-Image、Anima 等文★ 113
trellis2.ctrellis2.c 是一个基于 C 语言实现的开源项目,专注于在本地 GPU 上直接生成带纹理、分割和骨骼绑定的 GLB 格式 3D 资产。它解决了传统 3D★ 71