
InternLM-XComposer
让AI边看视频边聊天,长时音视频实时理解不丢上下文
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 2928
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- Python 环境(项目基于 Python 与深度学习框架)
- NVIDIA GPU 及 CUDA 环境(LMDeploy 默认依赖 CUDA 12.x,CUDA 11.x 需另按安装指南配置)
- 已安装 PyTorch 与 transformers 等依赖库
- 可访问 HuggingFace 或 ModelScope 下载 internlm/internlm-xcomposer2d5-7b 权重
安装与启动步骤
-
1获取项目代码
把仓库克隆到本地,后续安装与示例代码都基于该目录运行。
git clone https://github.com/InternLM/InternLM-XComposer.git cd InternLM-XComposer -
2安装环境依赖
README 要求先配置好环境并安装依赖库,具体命令需查看仓库内 docs/install.md,本页未给出完整命令。
-
3安装 LMDeploy(可选)
若需要做推理加速,README 推荐使用 LMDeploy,直接安装其 pypi 包即可。
pip install lmdeploy -
4Transformers 快速上手
README 的 Quickstart 只给出了示例开头(导入与关闭梯度),完整模型加载与推理代码在仓库示例中。
import torch from transformers import AutoModel, AutoTokenizer torch.set_grad_enabled(False) -
5准备 Gradio 演示
README 说明构建 Web UI Demo 需使用 gradio==4.13.0,启动 Chat/Composition 的具体命令在本页节选中被截断。
pip install gradio==4.13.0
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
模型 ID | 是 | HuggingFace 上的官方权重,也可在 ModelScope 获取同名模型 | internlm/internlm-xcomposer2d5-7b |
gradio 版本 | 是 | 构建 Web UI Demo 时必须使用的 Gradio 版本 | 4.13.0 |
如何确认成功
模型与 tokenizer 能正常加载且推理无报错;Gradio 启动后终端会输出本地访问地址,浏览器打开该地址即可看到界面。
常见问题
Q:CUDA 11.x 环境怎么安装 LMDeploy?
A:README 说明 pip install lmdeploy 默认依赖 CUDA 12.x;CUDA 11.x 需参考 LMDeploy 官方安装指南选择合适的安装方式。
Q:完整的安装步骤在哪里?
A:README 未列出具体安装命令,而是指向仓库内的 docs/install.md,按该文档配置环境后再运行示例。
Q:Gradio 启动命令是什么?
A:README 仅说明需使用 gradio==4.13.0 并提示运行下方命令,但本页节选中命令内容缺失,请查看仓库 README 原文的 Gradio Deploy 段落。
Q:模型权重从哪里下载?
A:可从 HuggingFace 的 internlm/internlm-xcomposer2d5-7b 或 ModelScope 的 Shanghai_AI_Laboratory/internlm-xcomposer2d5-7b 获取。
注意事项
- README 的安装说明指向 docs/install.md,本页未包含该文件内容,安装前请先阅读它。
- LMDeploy 安装默认面向 CUDA 12.x,CUDA 11.x 环境需单独处理。
- Gradio 启动命令在节选中被截断,请以仓库最新 README 为准。
- 模型为 7B 规模,本地运行需准备足够的显存与磁盘空间。
核心亮点
- 支持数小时连续视频/音频流式输入,实时交互延迟低
- 多模态融合能力强,同时理解视觉、语音和文本
- 模块化架构,感知/推理/记忆解耦,便于定制和扩展
不足之处
- 模型体积大,推理资源需求高,轻量部署困难
- 文档/社区待观察
适用场景
- 长视频内容审核与摘要生成
- 实时音视频会议助手,边听边总结
- 智能监控系统,持续分析流媒体并响应异常
替代项目
Video-LLaVA、Qwen-VL、LLaMA-VID
上一篇:matmulfreellm
下一篇:solon
同类项目推荐
Awesome-Large-Recommendation-Mod···
开源
一榜看尽大型推荐模型前沿,快速跟进最新研究
Latest Advances on Large Recommendation Models
Awesome-Foundation-Models-on-Gra···
开源
一站式收藏图基础模型论文、代码和数据集,快速入门研究。
A collection of graph foundation models including papers, codes, and datasets.
sdupdates
开源
一站式追踪 Stable Diffusion 最新资源与新闻
A mega collection of all resources and news related to Stable Diffusion. Focused aro···
SALMONN
开源
让AI听懂声音、看懂画面,多模态对话更自然
SALMONN family: A suite of advanced multi-modal LLMs
llm-resource
开源
一页看全 LLM 全栈好资源,找工具不再大海捞针
LLM全栈优质资源汇总
how-to-optim-algorithm-in-cuda
开源
手把手教你榨干GPU性能,从入门到精通CUDA优化
how to optimize some algorithm in cuda.
Code-Package-p5.js
开源
跟着书抄代码不如直接跑,生成艺术案例库随开随用
Code package of the book: Generative Design – Creative Coding for the Web with Java···
VisionLLM
开源
让视觉模型听懂人话,直接对话图像内容
VisionLLM Series
Awesome-LLM-Resources-List
开源
一站式收藏AI工程资源,快速找到从入门到实战的干货
A Curated Collection of resources for applied AI engineering (work in progress).