groundingLMM

让AI边聊边精准圈出图像中的每个物体

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 56 🐛 待处理 36 👀 关注 30
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 969
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源模型,Apache-2.0许可证,可免费使用和部署,无在线服务或付费版本。

项目预览

groundingLMM 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队mbzuai-oryx
定价模式🏷️完全免费
价格说明开源模型,Apache-2.0许可证,可免费使用和部署,无在线服务或付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型foundation-models,llm-agent,lmm,vision-and-language,vision-language-model
GitHub 星标★ 969
上线时间2023-11-02 00:00:00
代码更新2026-09-05
仓库体积112.7 MB
本站数据更新2026-11-10
维护状态维护中
收录时间2026-08-09
浏览次数2

项目介绍

GLaMM(Grounding Large Multimodal Model)是CVPR 2024提出的首个能够将自然语言响应与对象分割掩码无缝集成的多模态大模型。它解决了传统多模态模型只能生成文本描述、无法在像素级定位或分割所指对象的问题。核心能力包括:像素级视觉定位(Pixel-Level Grounding),即生成文本时同步输出对应物体的分割掩码;多模态对话与分割的联合推理,支持基于图像内容的问答、指代分割和区域描述等任务;以及区域级理解(Region-Level Understanding),可对图像中特定区域进行细粒度分析。该模型通过统一架构将视觉编码器、语言模型和分割解码器结合,在多项基准上取得领先性能。项目提供预训练模型和推理代码,适合需要细粒度视觉理解与交互式分割的研究和应用场景。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 969

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:高级 约 60 分钟 部署方式:本地 (Py/CUDA) 4 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • Linux + NVIDIA GPU + CUDA
  • Conda
  • 较大磁盘空间(数据集 + 权重)

安装与启动步骤

  1. 1建 conda 环境

    仓库提供 conda 环境文件,用于训练、评测与 demo,建议严格按它建环境。

    conda env create -f environment.yml
    conda activate glamm
  2. 2下载数据集

    训练与评测所需数据在 docs/datasets.md 里给出下载与目录排布说明。

  3. 3下载权重

    各能力的预训练 checkpoint 见 docs/model_zoo.md。

  4. 4训练或评测

    GCG、区域级描述、指代分割分别有对应说明,见 docs/training.md 与 docs/evaluation.md。

如何确认成功

评测脚本能加载 checkpoint 并输出指标,或 demo 能对示例图片给出带框的描述。

常见问题

Q:不训练只跑推理可以吗?

A:可以,直接用 model_zoo 里的 checkpoint 做评测或 demo。

注意事项

  • 根 README 只给文档索引,没有单行安装命令,步骤按 docs/ 结构整理,置信度标 low。
  • 同系列还有 VideoGLaMM,任务扩展到视频,注意区分仓库与权重。

核心亮点

  • 首个将文本生成与像素级分割掩码统一输出的多模态模型,创新性强
  • 支持指代分割、区域描述等细粒度任务,交互体验直观
  • 基于LLaVA架构扩展,社区生态兼容性好,易于二次开发

不足之处

  • 项目处于早期阶段,文档和示例代码不够完善
  • 模型参数量大,推理资源需求高,部署门槛较高

适用场景

  • 智能图像编辑工具,用户用自然语言指令选中并修改特定物体
  • 辅助视觉障碍人士理解图像,通过语音描述+区域高亮
  • 机器人视觉导航,实时定位并分割目标物体

替代项目

LLaVA、GPT-4V、SEEM

上一篇:torchxrayvision

下一篇:FasterViT

同类项目推荐

depth_any_camera 开源

任意相机秒出深度图,零样本适配鱼眼全景

[CVPR 2025] Depth Any Camera: Zero-Shot Metric Depth Estimation from Any Camera

★ 365 2026-08-09
Conceptor 开源

读懂扩散模型的隐藏语言,精准操控图像生成

Official implementation of the paper The Hidden Language of Diffusion Models

★ 79 2026-08-09
Awesome-CV-MasterHub 开源

按图索骥,一篇列表搞定 CV 前沿论文追踪

:fire: :fire: :fire: A paper list of some recent Computer Vision(CV) works

★ 983 2026-08-09
NI-Tex 开源

从平铺图一键生成贴合人体的3D服装纹理

[CVPR 2026 Highlight] It's the official repository of "NI-Tex: Non-isometric Image-b···

★ 75 2026-08-09
AlbumentationsX 开源

一行代码给图像加增强,标注同步不跑偏

Image augmentation for computer vision. AGPL-3.0-only or commercial licensing.

★ 592 2026-09-13
ArXiv_CV_Papers_Daily 开源

每天自动汇总 arXiv 最新 CV 论文,省去手动翻页

Daily feed of the latest Computer Vision research papers from https://arxiv.org.

★ 256 2026-09-18
TTKOCR 开源

本地桌面工具,把图片和 PDF 里的文字直接抠出来

OCR 识别图片以及PDF中的文字,based on Qt for windows and linux.

★ 149 2026-10-18
particle-life 开源

拖拽调参,让粒子自己长成生命图案

A simple program to simulate artificial life using attraction/reuplsion forces betwe···

★ 3368 2026-08-09
gca 开源

用元胞自动机生成复杂3D结构和纹理,复现ICLR论文

Official implementation of Generative Cellular Automata: ICLR 2021, 2022 (spotlight)

★ 55 2026-08-09