audio.cpp

纯 C++ 搞定音频 AI 推理，无 Python 依赖，性能拉满

开源 free 音频音乐

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 3501

维护状态活跃

是否开源是

定价模式 free

项目预览

项目数据

分类音频音乐

开发团队0xShug0

所属国家

官网地址

GitHubhttps://github.com/0xShug0/audio.cpp

定价模式free

价格说明开源免费，无定价信息

访问状态

是否开源是

开源协议NOASSERTION

主要语言C++

技术栈/模型ai,amd-gpu,apple-silicon,asr,audio,cpp,edge-ai,ggml,minimax-music3,music-generation,speech-analysis,speech-to-speech,speech-to-text,text-to-speech,tts,voice-ai,voice-cloning,voice-conversion,vulkan,yue2

GitHub 星标★ 3501

30天Star增速

HF 下载量

上线时间2026-06-23 00:00:00

代码更新—

仓库体积—

本站数据更新—

维护状态活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-29

浏览次数6

项目介绍

audio.cpp 是一个基于 ggml 的纯 C++ 音频模型推理引擎，旨在为音频 AI 应用提供一体化、高性能的本地推理解决方案。它解决了传统音频 AI 工具依赖 Python 环境、部署复杂、性能瓶颈等问题，通过高度优化的 C++ 实现，支持文本转语音（TTS）、语音识别（STT）、语音活动检测（VAD）、声音转换、音乐生成等多种音频任务。其核心能力包括跨平台支持（Apple Silicon、AMD GPU 等）、无 Python 依赖、以及针对音频模型推理的深度优化，使得开发者可以轻松将先进的音频模型集成到边缘设备或桌面应用中，实现低延迟、高吞吐的实时音频处理。该项目正处于成长阶段，API 和功能持续演进，适合对性能有严苛要求且希望摆脱 Python 生态的开发者。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

正在加载星标数据…

技术标签

使用教程

—

难度：入门约 10 分钟部署方式：命令行工具 5 步

环境要求

支持 Windows / Linux / macOS 系统
macOS 通过 Homebrew 安装需已装好 Homebrew
硬件可用 NVIDIA、AMD、Apple Silicon 或纯 CPU
需准备 GGUF 格式的模型文件
无需 Python 环境与 Conda

安装与启动步骤

1macOS 安装工具

通过官方 Homebrew tap 安装 audio.cpp 命令行工具，三条命令需按顺序执行。brew trust 用于信任该 tap。
```
brew tap 0xShug0/audio-cpp
brew trust 0xShug0/audio-cpp
brew install audio-cpp
```
2Docker 方式部署

README 仅说明提供 CUDA 与 CPU 两种镜像，可用于命令行或服务端。具体镜像名与构建命令未在 README 列出，需查阅仓库文档。
3获取 GGUF 模型

从 HuggingFace 主仓库或 ModelScope 镜像下载所需任务的 GGUF 模型权重，放到本地目录备用。
4阅读用法文档

仓库 docs/usage.md 包含完整的安装、CLI、服务端与工作流示例，运行前先按该文档确认具体命令与参数。
5开启省显存选项

显存不足时对支持的模型启用 mem_saver，可降低图工作区显存占用或释放已缓存图状态。

关键配置

配置项	必填	说明	示例
`ace_step.mem_saver`	否	对 ace_step 模型启用省显存模式	`ace_step.mem_saver=true`
`stable_audio.mem_saver`	否	对 stable_audio 模型启用省显存模式	`stable_audio.mem_saver=true`
`omnivoice.mem_saver`	否	对 omnivoice 模型启用省显存模式	`omnivoice.mem_saver=true`
`voxcpm2.mem_saver`	否	对 voxcpm2 模型启用省显存模式	`voxcpm2.mem_saver=true`

如何确认成功

brew install 命令执行完成即表示工具已装好；实际运行验证方式请按 docs/usage.md 中的示例执行。

常见问题

Q：必须安装 Python 或 Conda 吗？

A：不需要。audio.cpp 是纯 C++ 的 ggml 推理运行时，不需要 Python 环境和各类包依赖。

Q：支持哪些硬件？

A：支持 Windows、Linux、macOS 平台，硬件覆盖 NVIDIA、AMD、Apple Silicon 以及纯 CPU 机器。

Q：模型权重从哪里下载？

A：可从 HuggingFace 的 audio-cpp/audio.cpp-gguf 仓库获取，国内可用 ModelScope 的 GGUF 镜像仓库。

Q：Windows 和 Linux 怎么安装？

A：README 只给出 macOS 的 Homebrew 命令，其他平台请参考 docs/docker.md 与 docs/build/nixos.md。

Q：显存不足怎么处理？

A：对支持的模型开启 mem_saver 选项，例如 ace_step.mem_saver=true，可减少图工作区显存占用。

注意事项

Docker 的可用镜像、构建命令与示例只在 docs/docker.md 中，README 未直接给出。
完整 CLI、服务端与工作流用法见 docs/usage.md，Nix/NixOS 构建见 docs/build/nixos.md。
Yue2 3B 歌曲生成目前仅在 dev 分支提供，属于社区测试阶段。
开启 mem_saver 后，被释放的图或缓存可能在后续请求中重建，带来额外开销。

核心亮点

纯 C++ 实现，无 Python 依赖，部署简单，适合嵌入式/边缘场景
基于 ggml 优化，支持 Apple Silicon 和 AMD GPU，推理性能出色
集成 TTS、STT、VAD、音乐生成等多种模型，开箱即用

不足之处

项目尚在早期，API 和模型支持范围可能不稳定
文档和社区生态待观察，示例和教程相对有限

适用场景

在资源受限的边缘设备上部署实时语音助手
为桌面应用集成离线文本转语音或语音识别功能
构建本地音乐生成工具，无需云端 API

替代项目

whisper.cpp、llama.cpp、stable-diffusion.cpp

上一篇：WhisperSubTranslate

下一篇：supertonic