Open-LLaVA-NeXT

开源复现 LLaVA-NeXT,快速训练你的多模态对话模型

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 对话助手 🍴 复刻 23 🐛 待处理 19 👀 关注 11
GitHub ↗
GitHub 星标 ★ 438
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,可自行部署训练,无在线服务,完全免费。

项目预览

Open-LLaVA-NeXT 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类对话助手
开发团队xiaoachen98
定价模式🏷️完全免费
价格说明开源项目,可自行部署训练,无在线服务,完全免费。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Python
技术栈/模型chatbot,chatgpt,gpt-4,gpt4o,large-multimodal-models,llama,llama3,llava,llava-next,multi-modality,multimodal,vision-language-model,visual-language-learning
GitHub 星标★ 438
上线时间2024-05-11 00:00:00
代码更新2024-10-23
仓库体积1.7 MB
本站数据更新2026-11-08
维护状态低维护
收录时间2026-08-09
浏览次数5

项目介绍

Open-LLaVA-NeXT 是一个开源实现,旨在复现和训练 LLaVA-NeXT 多模态大模型。它解决了社区中缺乏完整、可复现的 LLaVA-NeXT 训练代码的问题,提供了从数据准备、模型架构到训练流程的完整工具链。核心能力包括:支持多种视觉编码器与语言模型(如 Llama 3)的组合,实现图像与文本的联合理解;提供灵活的配置和脚本,便于研究者自定义训练;基于 PyTorch 生态,易于集成和扩展。项目处于早期阶段,但为多模态对话、视觉问答等任务提供了可落地的训练基础。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 438

使用教程

难度:高级 约 55 分钟 部署方式:本地GPU 5 步

环境要求

  • NVIDIA GPU(显存 24GB 起)
  • CUDA 11.8+

安装与启动步骤

  1. 1拉仓库

    多模态模型的开源实现,含训练与推理。

    git clone https://github.com/xiaoachen98/Open-LLaVA-NeXT.git
  2. 2建环境

    官方指定 Python 3.10。

    conda create -n llava-next python=3.10 -y
  3. 3装成本地包

    基础包与训练依赖分两步装。

    pip install -e .
  4. 4装训练依赖

    训练部分的依赖单独一组。

    pip install -e ".[train]"
  5. 5装注意力加速

    要长上下文支持时再装,编译耗时。

    pip install flash-attn --no-build-isolation

如何确认成功

给一张图问细节问题,回答里能说出图中文字与相对位置,而不是泛泛描述

注意事项

  • 它是某系列多模态模型的开源复现,推理与训练都能跑。
  • flash-attn 编译失败是常见卡点,先确认 CUDA 版本。
  • 权重需另下,路径写进配置。
  • 多图与视频输入对显存要求更高,按机器调分辨率。

核心亮点

  • 完整复现 LLaVA-NeXT 训练流程,代码结构清晰,易于上手
  • 支持 Llama 3 等主流 LLM 与视觉编码器灵活组合,扩展性强
  • 基于 PyTorch,依赖标准,便于集成到现有多模态研究项目

不足之处

  • 文档/社区待观察
  • 训练资源需求高,普通开发者难以在消费级硬件上复现

适用场景

  • 研究 LLaVA-NeXT 架构与训练细节的学术场景
  • 基于多模态对话的垂直领域应用开发(如医疗、教育)
  • 需要私有化部署多模态助手的企业场景

替代项目

LLaVA、OpenFlamingo、BLIP-2

上一篇:RLAIF-V

下一篇:Agent-FLAN

同类项目推荐

BloomBee 开源

多台普通设备拼起来,也能微调和跑大模型

Decentralized LLMs fine-tuning and inference with offloading

★ 135 2026-09-16
Soup 开源

一个YAML搞定大模型微调,4GB显卡也能训8B模型

Fine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GP···

★ 10289 2026-08-09
easydistill 开源

一键蒸馏大模型,小模型也能拥有大智慧

a toolkit on knowledge distillation for large language models

★ 484 2026-08-09
VERONA 开源

一键搭建鲁棒性实验,快速算清模型抗干扰能力

A lightweight Python package for setting up robustness experiments and to compute ro···

★ 52 2026-08-09
SAELens 开源

把大模型内部激活拆成可读特征,训练与复用 SAE

Training Sparse Autoencoders on Language Models

★ 1581 2026-10-12
GRACE 开源

把视觉大模型压到INT4,蒸馏补精度,低显存也能跑

[ICML 2026] GRACE: deployable INT4 VLM via quantization-aware distillation.

★ 213 2026-10-31
lmms-finetune 开源

极简代码库,快速微调主流多模态大模型

A minimal codebase for finetuning large multimodal models, supporting llava-1.5/1.6,···

★ 375 2026-08-09
azure-databricks-mlops-mlflow 开源

在 Azure Databricks 上快速搭建不依赖 MLflow Project 的 MLOps 流程

Azure Databricks MLOps sample for Python based source code using MLflow without usin···

★ 97 2026-08-09
IPR 开源

逐步纠错,让LLM智能体每一步都走对

Watch Every Step! LLM Agent Learning via Iterative Step-level Process Refinement (E···

★ 67 2026-08-09