LlamaFactory

上百种模型随意挑，教出你专属的 AI

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 9354 🐛 待处理 1221 👀 关注 342

GitHub ↗

GitHub 星标 ★ 75956

维护状态活跃

是否开源开源

定价模式 🏷️完全免费开源项目，Apache-2.0许可证，完全免费，可自行部署使用。

项目预览

LlamaFactory 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类开源模型

开发团队hiyouga

GitHubhttps://github.com/hiyouga/LlamaFactory

定价模式🏷️完全免费

价格说明开源项目，Apache-2.0许可证，完全免费，可自行部署使用。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型agent,ai,deepseek,fine-tuning,gemma,gpt,instruction-tuning,large-language-models,llama,llama3,llm,lora,moe,nlp,peft,qlora,quantization,qwen,rlhf,transformers

GitHub 星标★ 75956

上线时间2023-05-28 00:00:00

代码更新2026-11-09

仓库体积13.9 MB

本站数据更新2026-11-09

维护状态活跃

收录时间2026-08-09

浏览次数12

项目介绍

统一的 LLM 高效微调框架，支持 100+ 主流模型（LLM 与 VLM），集成 LoRA 等前沿技术，被 ACL 2024 收录，是微调领域最流行的开源工具。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 75956

技术标签

agent ai deepseek fine-tuning gemma

使用教程

难度：入门约 15 分钟部署方式：本地安装 8 步

环境要求

Python 3.11 环境（官方 Docker 镜像内置 PyTorch 2.6.0；Ascend NPU 需 Python 3.12）
NVIDIA GPU 及可用 CUDA（Docker 方式以 --gpus=all 调用）
已安装 Git，用于克隆源码
Windows 需手动安装 GPU 版 PyTorch；使用 uv 方式需先安装 uv

安装与启动步骤

1克隆仓库

下载 LlamaFactory 源码并进入目录，--depth 1 只拉取最新一次提交。
```
git clone --depth 1 https://github.com/hiyouga/LlamaFactory.git
cd LlamaFactory
```

2装 Windows PyTorch

仅 Windows 用户需手动安装 GPU 版 PyTorch，装完确认 CUDA 可用再继续。

pip uninstall torch torchvision torchaudio
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126
python -c "import torch; print(torch.cuda.is_available())"

3安装项目依赖

在源码目录内以可编辑模式安装本体，并补充 metrics 指标依赖。
```
pip install -e .
pip install -r requirements/metrics.txt
```
4安装可选依赖

需要 DeepSpeed 等可选能力时，一次性安装 metrics 与 deepspeed 依赖。
```
pip install -e . && pip install -r requirements/metrics.txt -r requirements/deepspeed.txt
```
5Docker 方式运行

不想配环境可直接拉官方镜像进入容器，需宿主机支持 GPU 容器运行时。
```
docker run -it --rm --gpus=all --ipc=host hiyouga/llamafactory:latest
```
6启动 Web UI

用 uv 创建隔离环境并启动 Gradio 网页界面，实现零代码微调。
```
uv run llamafactory-cli webui
```
7运行 LoRA 微调

以 Qwen3-4B-Instruct 为例执行 LoRA 微调，配置路径相对仓库根目录。
```
llamafactory-cli train examples/train_lora/qwen3_lora_sft.yaml
```

8推理与合并模型

先加载微调结果对话验证效果，再导出合并后的完整模型权重。

llamafactory-cli chat examples/inference/qwen3_lora_sft.yaml
llamafactory-cli export examples/merge_lora/qwen3_lora_sft.yaml

关键配置

配置项	必填	说明	示例
`dataloader_num_workers`	否	Windows 出现 Can't pickle local object 报错时设为 0	`0`
`double_quantization`	否	Ascend NPU 上使用 QLoRA 时需关闭双量化	`false`