
Open-LLaVA-NeXT
开源复现 LLaVA-NeXT,快速训练你的多模态对话模型
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 438
使用教程
环境要求
- NVIDIA GPU(显存 24GB 起)
- CUDA 11.8+
安装与启动步骤
-
1拉仓库
多模态模型的开源实现,含训练与推理。
git clone https://github.com/xiaoachen98/Open-LLaVA-NeXT.git -
2建环境
官方指定 Python 3.10。
conda create -n llava-next python=3.10 -y -
3装成本地包
基础包与训练依赖分两步装。
pip install -e . -
4装训练依赖
训练部分的依赖单独一组。
pip install -e ".[train]" -
5装注意力加速
要长上下文支持时再装,编译耗时。
pip install flash-attn --no-build-isolation
如何确认成功
给一张图问细节问题,回答里能说出图中文字与相对位置,而不是泛泛描述
注意事项
- 它是某系列多模态模型的开源复现,推理与训练都能跑。
- flash-attn 编译失败是常见卡点,先确认 CUDA 版本。
- 权重需另下,路径写进配置。
- 多图与视频输入对显存要求更高,按机器调分辨率。
核心亮点
- 完整复现 LLaVA-NeXT 训练流程,代码结构清晰,易于上手
- 支持 Llama 3 等主流 LLM 与视觉编码器灵活组合,扩展性强
- 基于 PyTorch,依赖标准,便于集成到现有多模态研究项目
不足之处
- 文档/社区待观察
- 训练资源需求高,普通开发者难以在消费级硬件上复现
适用场景
- 研究 LLaVA-NeXT 架构与训练细节的学术场景
- 基于多模态对话的垂直领域应用开发(如医疗、教育)
- 需要私有化部署多模态助手的企业场景
替代项目
LLaVA、OpenFlamingo、BLIP-2
上一篇:RLAIF-V
下一篇:Agent-FLAN
同类项目推荐
BloomBee
开源
多台普通设备拼起来,也能微调和跑大模型
Decentralized LLMs fine-tuning and inference with offloading
Soup
开源
一个YAML搞定大模型微调,4GB显卡也能训8B模型
Fine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GP···
easydistill
开源
一键蒸馏大模型,小模型也能拥有大智慧
a toolkit on knowledge distillation for large language models
VERONA
开源
一键搭建鲁棒性实验,快速算清模型抗干扰能力
A lightweight Python package for setting up robustness experiments and to compute ro···
SAELens
开源
把大模型内部激活拆成可读特征,训练与复用 SAE
Training Sparse Autoencoders on Language Models
GRACE
开源
把视觉大模型压到INT4,蒸馏补精度,低显存也能跑
[ICML 2026] GRACE: deployable INT4 VLM via quantization-aware distillation.
lmms-finetune
开源
极简代码库,快速微调主流多模态大模型
A minimal codebase for finetuning large multimodal models, supporting llava-1.5/1.6,···
azure-databricks-mlops-mlflow
开源
在 Azure Databricks 上快速搭建不依赖 MLflow Project 的 MLOps 流程
Azure Databricks MLOps sample for Python based source code using MLflow without usin···
IPR
开源
逐步纠错,让LLM智能体每一步都走对
Watch Every Step! LLM Agent Learning via Iterative Step-level Process Refinement (E···