AudioToken

上传一段音频,AI 直接生成匹配图像

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 图像生成 🍴 复刻 6 🐛 待处理 2 👀 关注 4
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 90
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,可免费使用和修改,无付费版本。

项目预览

AudioToken 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类图像生成
开发团队guyyariv
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,可免费使用和修改,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ai-art,audio-to-image,audio2image,deep-learning,diffusion-models,image-generation,multi-modal,stable-diffusion,text2image
GitHub 星标★ 90
上线时间2023-05-22 00:00:00
代码更新2026-05-18
仓库体积53.3 MB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数6

项目介绍

AudioToken 是一个基于扩散模型的音频到图像生成工具,源自 InterSpeech 2023 论文。它解决了仅凭文本描述难以准确捕捉音频中情感、节奏等抽象信息的问题,通过将音频特征适配到文本条件扩散模型中,实现从音频直接生成匹配的图像。核心能力包括:利用预训练的 Stable Diffusion 模型,通过轻量级适配层将音频编码为条件向量,支持多种音频输入(如音乐、语音),并生成与音频内容语义相关的图像。项目提供官方 PyTorch 实现,包含训练和推理代码,适合多模态生成研究。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 90

核心亮点

  • 首个将音频条件注入 Stable Diffusion 的官方实现,方法新颖
  • 基于预训练模型,适配成本低,训练资源要求相对友好
  • 代码结构清晰,包含推理示例,易于复现论文结果

不足之处

  • 文档/社区待观察
  • 项目早期,星标少,生态和教程有限

适用场景

  • 音乐可视化:根据歌曲生成专辑封面或视觉艺术
  • 辅助创作:为播客、有声书生成配图
  • 多模态研究:探索音频与图像跨模态生成

替代项目

Wav2CLIP、AudioLDM、Diffusion Art

上一篇:Text2Earth

下一篇:DyPE

同类项目推荐

ImagenHub 开源

统一调用和评估所有条件图像生成模型,省心对比

A one-stop library to standardize the inference and evaluation of all the conditiona···

★ 180 2026-08-09
Sketch-a-Sketch 开源

画几笔草图,精准控制AI图像生成结果

Controlling diffusion-based image generation with just a few strokes

★ 65 2026-08-09
ai-art-generator 开源

本地批量生成 AI 艺术画,省时省力

For automating the creation of large batches of AI-generated artwork locally.

★ 621 2026-08-09
comfy-portal 开源

手机当画板,随时随地跑 ComfyUI 工作流

A native iOS & Android client for ComfyUI — run AI image generation workflows from ···

★ 86 2026-08-09
dlss5-visual-enhancer 开源

低清图/视频一键变高清流畅,AI 超分加补帧

DLSS 5 Neural Rendering for Images & Video with Frame Generation, RTX Video Super Re···

★ 1823 2026-10-06
FreezeG 开源

冻结生成器,稳定训练,快速搞定图像翻译

Freezing generator for pseudo image translation

★ 474 2026-08-09
ru-dalle 开源

用俄语描述,即刻生成图像,打破语言障碍。

Generate images from texts. In Russian

★ 1642 2026-08-09
ComfyUI_ColorMod 开源

在 ComfyUI 里直接调色、HDR 和 16 位图,让生成图色彩更专业

Color/contrast editing, tonemapping, 16 bit and HDR image support.

★ 111 2026-08-09
Frido 开源

用特征金字塔扩散,生成复杂场景图像更精细

Research code for paper "Frido: Feature Pyramid Diffusion for Complex Scene Image Sy···

★ 114 2026-08-09