unsloth

环境要求

• 桌面版：Windows / macOS / Ubuntu(deb) 系统，直接下载官方安装包
• Docker 方式：已安装 Docker，Linux 需先装 NVIDIA 容器工具包，Windows 需 Docker Desktop + WSL 2
• 源码安装：需 git，以及 macOS / Linux / WSL 或 Windows PowerShell 环境
• 运行模型需要可用的 GPU（Docker 命令使用 --gpus all）

安装与启动步骤

1. 1下载桌面应用

   按系统从 GitHub Releases 下载原生安装包：Windows 用 .exe、macOS 用 .dmg、Ubuntu 用 .deb，也可到官网下载页获取。

2. 2准备GPU环境

   Linux 上以 Docker 方式运行前，先装一次 NVIDIA 容器工具包，让容器能访问 GPU；Windows 则确保 Docker Desktop 开启 WSL 2 后端。

   curl -fsSL https://raw.githubusercontent.com/unslothai/unsloth/main/docker/install_nvidia_toolkit.sh -o install_nvidia_toolkit.sh && sudo -E bash install_nvidia_toolkit.sh

   复制

3. 3启动Docker容器

   拉取并后台运行 unsloth/unsloth 镜像，映射 8000(Studio) 和 8888(JupyterLab) 端口，把当前目录挂载进容器，密码按需修改。

   docker run -d --gpus all --ipc=host
     -p 8000:8000 -p 8888:8888
     -e UNSLOTH_STUDIO_PASSWORD="mypassword" -e JUPYTER_PASSWORD="mypassword"
     -v "$PWD":/workspace/host
     unsloth/unsloth

   复制

4. 4源码安装(Linux)

   在 macOS、Linux 或 WSL 中克隆 main 分支（最新 nightly 源码）并执行本地安装脚本，随后以 8888 端口启动 Studio。

   git clone https://github.com/unslothai/unsloth
   cd unsloth
   ./install.sh --local
   unsloth studio -p 8888

   复制

5. 5源码安装(Windows)

   在 PowerShell 中克隆仓库、临时放开执行策略，再运行 install.ps1 完成本地安装并启动 Studio。

   git clone https://github.com/unslothai/unsloth.git
   cd unsloth
   Set-ExecutionPolicy -Scope Process -ExecutionPolicy Bypass
   .\install.ps1 --local
   unsloth studio -p 8888

   复制

6. 6隔离目录安装

   不想污染全局环境时，用 UNSLOTH_STUDIO_HOME 指定独立安装目录，安装与启动命令都要带上该变量。

   UNSLOTH_STUDIO_HOME="$PWD/.studio" ./install.sh --local
   UNSLOTH_STUDIO_HOME="$PWD/.studio" unsloth studio -p 8888

   复制

7. 7更新到最新版

   源码安装后进入仓库目录 git pull 拉取最新代码，重新执行安装脚本，再启动 Studio。

   cd unsloth && git pull
   ./install.sh --local
   unsloth studio -p 8888

   复制

关键配置

如何确认成功

浏览器打开 http://localhost:8000，用用户名 unsloth 和设置的密码登录 Studio；8888 是 JupyterLab。

常见问题

注意事项

• 开发版脚本构建的是 main 分支，也就是最新的 nightly 源码，可能不如桌面版稳定。
• Docker 方式把当前目录挂载到容器 /workspace/host，训练数据可放在这里。
• Web 界面还支持 unsloth studio --secure 的 HTTPS 安全部署模式。
• 高级安装与更多选项参见官方文档 https://unsloth.ai/docs 。