simple-llm-finetuner

环境要求

• Linux 或 WSL 系统
• 支持 CUDA 的新款 NVIDIA GPU，显存 >= 16 GB（显存更小可尝试缩短样本长度）
• 已安装 Conda（README 推荐使用虚拟环境）
• Python 3.10
• CUDA 11.7（README 用 conda 安装对应版本）

安装与启动步骤

1. 1创建 Conda 环境

   用 Python 3.10 创建名为 simple-llm-finetuner 的独立虚拟环境，避免污染系统环境。

   conda create -n simple-llm-finetuner python=3.10

   复制

2. 2激活环境

   后续所有安装与启动命令都要在这个已激活的环境里执行。

   conda activate simple-llm-finetuner

   复制

3. 3安装 CUDA 与 PyTorch

   按 README 指定的源安装 CUDA 11.7 与 PyTorch 2，确保 GPU 版 PyTorch 可用。

   conda install -y cuda -c nvidia/label/cuda-11.7.0
   conda install -y pytorch=2 pytorch-cuda=11.7 -c pytorch

   复制

4. 4克隆仓库装依赖

   拉取项目源码，进入目录后用 requirements.txt 安装全部 Python 依赖。

   git clone https://github.com/lxe/simple-llm-finetuner.git
   cd simple-llm-finetuner
   pip install -r requirements.txt

   复制

5. 5WSL 设置库路径

   仅 WSL 用户需要。README 提示 WSL 上可能要先手动安装 CUDA，并在启动前设置该环境变量。

   export LD_LIBRARY_PATH=/usr/lib/wsl/lib

   复制

6. 6启动 Web UI

   在项目目录且环境已激活的状态下运行 app.py，启动基于 Gradio 的图形界面。

   python app.py

   复制

7. 7浏览器访问界面

   在浏览器打开本地地址即可看到微调面板，然后在 UI 里粘贴数据、训练与推理。

关键配置

如何确认成功

浏览器打开 http://127.0.0.1:7860/，能看到 Gradio 微调界面即为启动成功。

常见问题

注意事项

• 项目作者已宣布停止维护，新项目建议改用 README 推荐的替代工具。
• 仅支持 Linux 或 WSL，Windows 原生环境未在 README 中说明支持。
• WSL 用户可能需按 NVIDIA 官方步骤手动安装 CUDA，并在启动前 export LD_LIBRARY_PATH=/usr/lib/wsl/lib。
• README 未提供 Docker 或云端一键部署方式，必须本地安装依赖。