mPLUG-2

一个模型搞定图文视频的理解与生成

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 20 🐛 待处理 17 👀 关注 3
GitHub ↗
GitHub 星标 ★ 228
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源模型,Apache-2.0许可,可免费使用和部署。

项目预览

mPLUG-2 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队X-PLUG
定价模式🏷️完全免费
价格说明开源模型,Apache-2.0许可,可免费使用和部署。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型foundation-models,image-retrieval,mllm,mplug,multimodal,multimodal-pretraining,video,video-question-answering,video-retrieval,vqa
GitHub 星标★ 228
上线时间2023-05-22 00:00:00
代码更新2023-07-21
仓库体积2.4 MB
本站数据更新2026-11-07
维护状态低维护
收录时间2026-08-09
浏览次数6

项目介绍

mPLUG-2 是阿里巴巴达摩院提出的模块化多模态基础模型,发表于 ICML 2023。它旨在统一处理文本、图像和视频三种模态,解决传统多模态模型在跨模态理解和生成任务上能力分散、难以兼顾的问题。核心能力包括:通过模块化设计将模型拆分为共享的视觉/文本编码器和任务特定的解码器,支持跨模态理解(如图文检索、视觉问答)和生成(如图像描述、视频描述)等多样化任务。模型采用两阶段训练策略,先对齐模态再适配任务,在多个公开基准上取得领先效果。其模块化架构允许灵活组合不同模块,便于扩展到新任务和新模态,为多模态大模型的统一设计提供了新思路。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 228

核心亮点

  • 模块化设计,视觉和文本编码器可复用,扩展新任务成本低
  • 统一支持理解和生成任务,覆盖检索、问答、描述等多种场景
  • 在图像、视频多个基准上达到SOTA,论文发表于ICML 2023

不足之处

  • GitHub星标仅227,社区活跃度低,文档和示例可能不够完善
  • 模型规模较大,推理资源需求高,不适合轻量级部署

适用场景

  • 跨模态检索:用文字搜图片或视频
  • 视觉问答与图像/视频描述生成
  • 多模态对话系统或内容理解平台

替代项目

OFA、Flamingo、BLIP-2

上一篇:tapestry

下一篇:time-series-ptms

同类项目推荐

Otter 开源

让开源多模态模型听懂指令,看图说话更听话

Otter, a multi-modal model based on OpenFlamingo (open-sourced version of DeepMind's···

★ 3442 2026-08-09
VisionLLM 开源

让视觉模型听懂人话,直接对话图像内容

VisionLLM Series

★ 1155 2026-08-09
awesome-llm-os 开源

一网打尽大模型操作系统资源,快速跟上前沿趋势

A curated list of awesome resources, tools, research papers, and projects related to···

★ 166 2026-08-09
HRM 开源

让AI学会分步思考,复杂推理不再翻车

Hierarchical Reasoning Model Official Release

★ 12665 2026-08-09
Awesome-RL-for-Video-Generation 开源

一榜在手,快速掌握强化学习驱动视频生成的前沿论文

A curated list of papers on reinforcement learning for video generation

★ 587 2026-08-09
muse-maskgit-pytorch 开源

用掩码Transformer并行生成图像,速度远超扩散模型

Implementation of Muse: Text-to-Image Generation via Masked Generative Transformers,···

★ 917 2026-08-09
AnyGPT 开源

让一个模型搞定文本、图像、语音、音乐的任意互转

A unified multimodal language model based on discrete sequence modeling

★ 889 2026-09-07
cell2sentence 开源

把细胞变成句子,让大模型直接读懂单细胞

Cell2Sentence: Teaching Large Language Models the Language of Biology

★ 893 2026-10-14