AnyGPT

让一个模型搞定文本、图像、语音、音乐的任意互转

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 76 🐛 待处理 16 👀 关注 24

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 889

维护状态维护中

是否开源开源

定价模式 🏷️完全免费开源项目，免费使用，定价信息待确认

项目预览

项目数据

分类开源模型

开发团队OpenMOSS

官网地址https://junzhan2000.github.io/AnyGPT.github.io

GitHubhttps://github.com/OpenMOSS/AnyGPT

定价模式🏷️完全免费

价格说明开源项目，免费使用，定价信息待确认

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

主要语言Python

技术栈/模型any-to-any,image-generation,large-language-models,multimodal,music-generation,speech

GitHub 星标★ 889

上线时间2024-02-18 00:00:00

代码更新2026-09-06

仓库体积10.1 MB

本站数据更新2026-11-05

维护状态维护中

收录时间2026-09-07

浏览次数7

项目介绍

AnyGPT 是一个基于离散序列建模的统一多模态大语言模型，旨在实现任意模态之间的相互转换与理解。它解决了传统多模态模型通常只支持文本与其他单一模态（如图像或语音）交互的局限，通过将图像、语音、音乐等模态统一编码为离散符号序列，使模型能够像处理文本一样处理多种输入输出。其核心能力包括文本、图像、语音、音乐的任意组合输入与生成，例如语音到文本、文本到图像、音乐生成等跨模态任务。项目提供了完整的训练和推理代码，并支持基于 LLaMA 的模型架构，便于研究者复现和扩展。AnyGPT 特别适合需要统一多模态交互的对话系统、内容创作工具等场景，为构建更自然的人机交互体验提供了新的技术路径。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-09-07 · 当前星标 ★ 889

技术标签

image-generation large-language-models multimodal music-generation speech

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：高级约 50 分钟部署方式：本地 GPU 4 步

环境要求

NVIDIA GPU（建议 24GB+）
约 30GB 权重

安装与启动步骤

1建环境

官方指定 Python 3.9，先建 conda 环境再装依赖。

conda create --name AnyGPT python=3.9
conda activate AnyGPT
pip install -r requirements.txt

2下权重

基座模型与 tokenizer 都要下，路径与脚本默认值对齐。
3跑基座推理

先用 cli_infer_base_model 验证多模态对齐是否正常。
```
python anygpt/src/infer/cli_infer_base_model.py --model_path /path/to/model
```
4跑对话模型

SFT 后的版本支持多轮，输入可用文本或语音。
```
python anygpt/src/infer/cli_infer_chat_model.py
```