ToRA

环境要求

• Python 3.10（README 使用 Conda 创建 tora 环境）
• Conda 环境管理工具（推荐 Miniconda）
• CUDA 11.8 环境（README 以 cu118 版 torch 为例）
• vLLM 0.1.4（README 用于加速推理，随 requirements.txt 安装）

安装与启动步骤

1. 1克隆仓库

   把 ToRA 仓库拉到本地并进入 README 指定的 src 目录，后续命令都在此目录执行。

   git clone https://github.com/microsoft/ToRA.git
   cd ToRA/src

   复制

2. 2创建 Conda 环境

   按 README 用 Python 3.10 新建名为 tora 的独立环境，避免污染系统解释器。

   conda create -n tora python=3.10

   复制

3. 3激活环境

   切换到 tora 环境后再装依赖，否则包装到 base 环境里会找不到。

   conda activate tora

   复制

4. 4安装 packaging

   先装 packaging 22.0，README 将其放在 torch 之前，避免后续依赖版本冲突。

   pip install packaging==22.0

   复制

5. 5安装 PyTorch

   按 README 安装 2.0.1 版本，示例用 CUDA 11.8 的 index-url，其他 CUDA 版本需自行替换。

   pip install torch==2.0.1 --index-url https://download.pytorch.org/whl/cu118

   复制

6. 6安装项目依赖

   在 src 目录下安装 requirements.txt 中的全部依赖，其中包含推理用的 vLLM 0.1.4。

   pip install -r requirements.txt

   复制

7. 7获取模型权重

   README 未给下载命令，权重发布在 HuggingFace 的 llm-agents 主页，可自行前往下载。

如何确认成功

激活环境后执行 import torch 不报错即安装完成；README 未提供启动命令、服务端口或地址。

常见问题

注意事项

• README 的克隆命令已包含 cd ToRA/src，后续 pip 命令需在该 src 目录下执行。
• README 仅以 CUDA 11.8 为例，实际 CUDA 版本不同需替换对应的 index-url。
• README 节选未给出训练或推理的启动命令，需进一步参考官方论文与仓库源码。
• 推荐使用 Conda 管理环境，避免与系统 Python 环境互相干扰。