Ovis

环境要求

• Python 3.10（README 明确测试版本）
• conda 环境管理工具
• Torch 2.4.0
• Transformers 4.51.3
• DeepSpeed 0.15.4

安装与启动步骤

1. 1克隆代码仓库

   用 SSH 方式克隆 Ovis 仓库到本地，需提前配置 GitHub SSH Key，否则可改用 HTTPS 地址。

   git clone git@github.com:AIDC-AI/Ovis.git

   复制

2. 2创建conda环境

   创建名为 ovis 的 Python 3.10 环境并激活，README 声明项目在 Python 3.10 下测试。

   conda create -n ovis python=3.10 -y
   conda activate ovis

   复制

3. 3安装项目依赖

   进入 Ovis 目录，按 requirements.txt 安装全部依赖，再以可编辑模式安装项目本身。

   cd Ovis
   pip install -r requirements.txt
   pip install -e .

   复制

4. 4安装vLLM（可选）

   README 单独列出 vLLM 安装方式，如需 vLLM 推理加速再执行，非必须步骤。

   pip install vllm==0.10.2 --extra-index-url https://wheels.vllm.ai/0.10.2/

   复制

5. 5获取模型权重

   README 未给出下载命令，权重发布在 Hugging Face 的 AIDC-AI/Ovis2.5 集合，需自行前往下载 2B/9B 版本。

如何确认成功

README 未提供验证方式，确认 conda 环境已激活、pip install 全程无报错即视为环境就绪。

常见问题

注意事项

• SSH 克隆需已配置 GitHub SSH Key，否则改用 HTTPS 克隆地址。
• 完整依赖清单以仓库内 requirements.txt 为准。
• README 未给出推理示例命令，安装完成后需自行参考模型页面使用。