AudioGPT

一句话搞定音频理解与生成,还能驱动数字人说话

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 数字人3D 🍴 复刻 845 🐛 待处理 53 👀 关注 132
GitHub ↗
GitHub 星标 ★ 10166
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,本地部署,完全免费

项目预览

AudioGPT 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类数字人3D
开发团队AIGC-Audio
定价模式🏷️完全免费
价格说明开源项目,本地部署,完全免费
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议NOASSERTION
主要语言Python
技术栈/模型audio,gpt,music,sound,speech,talking-head
GitHub 星标★ 10166
上线时间2023-03-16 00:00:00
代码更新2024-07-06
仓库体积23.6 MB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数8

项目介绍

AudioGPT 是一个多模态音频处理框架,旨在统一理解和生成语音、音乐、声音以及说话头(Talking Head)等音频相关任务。它解决了传统音频模型功能单一、难以协同工作的问题,通过将多种预训练音频模型与大型语言模型(LLM)结合,实现跨模态的音频理解和生成。核心能力包括:语音识别与合成、音乐生成与理解、声音事件检测与生成,以及基于音频驱动的说话头视频生成。用户可以通过自然语言指令与系统交互,系统自动调度合适的模型完成任务,并返回音频或视频结果。该项目基于 Python 实现,整合了多种先进模型,提供了灵活的扩展接口,适用于研究、开发及创意应用。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 10166

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:高级 约 30 分钟 部署方式:本地安装 4 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • Python 环境(项目基于 Python 实现)
  • Git,用于克隆 GitHub 仓库
  • 需自行查阅仓库内 run.md 获取完整安装与运行说明

安装与启动步骤

  1. 1克隆项目仓库

    从 GitHub 拉取 AudioGPT 源码到本地,后续所有安装与运行步骤都以该目录为基础。

    git clone https://github.com/AIGC-Audio/AudioGPT.git
  2. 2进入项目目录

    切换到刚克隆下来的仓库目录,再执行仓库内提供的说明文件。

    cd AudioGPT
  3. 3阅读 run.md

    README 明确要求参考 run.md 获取安装与运行方式,安装依赖、下载模型等均以该文件为准。

    cat run.md
  4. 4查看能力与示例

    README 指出提示词示例见 assets/README.md,可据此了解各任务对应的输入示例。

    cat assets/README.md

如何确认成功

README 未给出启动命令和端口,无法据此验证;请按 run.md 中的说明确认服务或脚本是否正常运行。

常见问题

Q:怎么安装依赖、怎么启动?

A:README 只写了“Please refer to run.md”,安装、模型下载与启动命令都以仓库中的 run.md 为准,本项目 README 未给出具体命令。

Q:目前支持哪些音频任务?

A:语音方向包括文本转语音、风格迁移、语音识别、语音增强、语音分离、语音翻译和单声道转双声道,另有音乐、声音与说话头等能力。

Q:所有模型都能直接用吗?

A:不是。README 说明当前并非每个模型都有对应仓库,且部分任务状态标注为 WIP,功能可能尚不完整。

Q:有预训练模型吗?

A:README 称在该仓库中开源了实现与预训练模型,具体获取方式需查看 run.md。

注意事项

  • README 顶部即指向 run.md,未提供 pip、conda 或 Docker 等安装命令,切勿凭猜测执行。
  • 部分任务状态为 Yes (WIP) 或 WIP,属于开发中功能,可能不稳定。
  • README 声明并非每个模型都有对应仓库,部署前需确认目标任务所依赖的模型是否可用。
  • 项目整合了多种外部基础模型,实际资源占用与耗时取决于所选任务,README 未给出硬件要求。

核心亮点

  • 统一框架整合语音、音乐、声音、说话头四大类任务,交互简单
  • 基于LLM调度,支持自然语言指令,无需编程即可调用复杂模型
  • 代码开源,模块化设计,便于二次开发和集成新模型

不足之处

  • 依赖多个外部模型,部署环境复杂,资源占用高
  • 文档偏学术,上手门槛较高
  • 实时性依赖模型推理速度,可能不适合低延迟场景

适用场景

  • 智能助手:通过语音交互完成问答、播报、音乐播放等
  • 内容创作:自动生成配乐、音效、语音旁白或虚拟主播视频
  • 辅助研究:快速对比不同音频模型效果,验证多模态想法

替代项目

Hugging Face Transformers、Whisper、VALL-E

上一篇:flowflow

下一篇:AudioMuse-AI

同类项目推荐

voxtream 开源

实时流式语音克隆,边听边合成,语速随心控

VoXtream is a Full-Stream Zero-shot TTS model with Extremely Low Latency and Speakin···

★ 260 2026-08-09
linuxwave 开源

把系统随机数变成音乐,听见 Linux 的脉搏

Generate music from the entropy of Linux

★ 666 2026-08-09
pytorch-dc-tts 开源

用 PyTorch 快速训练中英蒙三语语音合成模型

Text to Speech with PyTorch (English and Mongolian)

★ 185 2026-08-09
voice-over-translation 开源

网页视频一键加外语配音和字幕

Смотрите видео на другом языке с закадровым пе···

★ 7700 2026-10-27
awesome-ai-voice 开源

一站式收藏开源语音与音乐生成模型,快速找到你要的工具。

List of open-source TTS, voice cloning, and music generation models

★ 542 2026-08-09
expo-kokoro-onnx 开源

在 Expo 应用中离线运行 Kokoro TTS,一句话实现本地语音合成。

Run Kokoro TTS locally on device using Expo & ONNX Runtime

★ 96 2026-08-09
index-tts 开源

上传几秒语音,立刻克隆你的声音,随便说哪种语言都行

An Industrial-Level Controllable and Efficient Zero-Shot Text-To-Speech System

★ 25026 2026-08-09
NaturalVoiceSAPIAdapter 开源

让老软件用上 Azure 自然语音,即插即用

Make Azure natural TTS voices accessible to any SAPI 5-compatible application.

★ 1016 2026-08-09
ospeak 开源

终端里一句话,文本秒变语音文件

CLI tool for running text through OpenAI Text to speech

★ 170 2026-08-09