axolotl

一条命令微调大模型,省心省力

axolotl 是一个用于微调大型语言模型的开源工具,旨在简化从数据准备到模型训练的全流程。它解决了开发者在使用 Hugging Face Transformers 等框架时面临的配置复杂、多模型支持不足和训练脚本难以复用的问题。axolotl 提供统一的 YAML 配置文件,支持 LLaMA、Mistral、Falcon 等多种主流模型架构,并集成了 Flash Attention、LoRA/QLoRA、DeepSpeed 等优化技术,能显著降低微调门槛和资源消耗。其核心能力包括数据预处理、多机多卡训练、断点续训和实验追踪,适合研究者和工程师快速迭代自定义模型。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 12491
维护状态 活跃
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队axolotl-ai-cloud
所属国家
定价模式free
价格说明开源项目,Apache-2.0许可证,可免费使用和部署。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型fine-tuning,llm
GitHub 星标★ 12491
30天Star增速
HF 下载量
上线时间2023-04-14 00:00:00
最近更新2026-09-22 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数6

使用教程

难度:入门 约 10 分钟 部署方式:Docker 5 步

环境要求

  • NVIDIA GPU(Ampere 或更新架构,用于 bf16 与 Flash Attention)或 AMD GPU
  • Python >= 3.11(推荐 3.12)
  • PyTorch >= 2.11.0(推荐 2.12.1)
  • 本机已安装 Docker(使用 Docker 方式时)

安装与启动步骤

  1. 1确认硬件与版本

    先检查显卡是否为 NVIDIA Ampere 或更新架构,或 AMD GPU;同时确认 Python 与 PyTorch 版本满足最低要求。

  2. 2安装 uv 包管理器

    README 给出的安装前置动作:执行脚本安装 uv,如果本机已有 uv 可跳过。

    curl -LsSf https://astral.sh/uv/install.sh | sh
  3. 3重启终端

    uv 安装完成后需要重启 shell(重新打开终端),让 uv 命令进入 PATH 后再生效。

  4. 4用 Docker 启动 axolotl

    README 说明 Docker 安装比在自有环境安装更不易出错,该命令挂载全部 GPU 并以交互方式进入容器。

    docker run --gpus '"all"' --ipc=host --rm -it axolotlai/axolotl:main-latest
  5. 5查看其他安装方式

    若不想用 Docker,README 指向官方文档的安装页面,其中列出了其余安装方式。

如何确认成功

README 未给出验证命令;容器启动后可参考官方文档 docs.axolotl.ai 确认环境是否可用。

常见问题

Q:Docker 安装和本地安装该选哪个?

A:README 明确说明:用 Docker 安装比在自己环境中安装更不容易出错,新手建议先用 Docker 方式。

Q:为什么要求 Ampere 或更新的 NVIDIA GPU?

A:README 指出 bf16 和 Flash Attention 需要 Ampere 或更新架构的 NVIDIA GPU;不满足时可用 AMD GPU。

Q:Python 和 PyTorch 版本有硬性要求吗?

A:README 要求 Python >= 3.11(推荐 3.12),PyTorch >= 2.11.0(推荐 2.12.1)。

Q:安装 uv 后提示找不到 uv 命令?

A:README 提示安装脚本执行后需要重启 shell(重新打开终端)才能生效。

Q:还有哪些安装方式?

A:README 指向官方文档安装页:https://docs.axolotl.ai/docs/installation.html。

注意事项

  • Docker 命令中的 --gpus '"all"' 表示暴露全部 GPU,--ipc=host 用于容器与主机共享内存。
  • uv 安装脚本执行后必须重启终端,否则命令不可用。
  • README 节选未提供本地 pip/源码安装的具体命令,请以官方文档安装页为准。
  • axolotl 是命令行微调框架,具体训练需自行准备 YAML 配置,README 节选未给出示例配置。

核心亮点

  • 统一 YAML 配置,无需编写复杂训练脚本
  • 内置 LoRA/QLoRA、Flash Attention 等优化,显存占用低
  • 支持主流模型架构和数据集格式,开箱即用

不足之处

  • 文档偏重使用示例,对内部机制解释较少
  • 依赖较多,环境配置可能稍显繁琐

适用场景

  • 基于开源大模型做领域微调(如法律、医疗)
  • 在有限 GPU 资源下进行参数高效微调
  • 批量实验不同模型和超参,快速对比效果

替代项目

Hugging Face TRL、LLaMA-Factory、Unsloth

项目介绍

axolotl 是模型训练领域的开源项目,由 axolotl-ai-cloud 开发,2023 年首次发布。

在全站 13,090 个收录项目中,它的 GitHub 星标数(12,491)位列前 4%,在模型训练分类的 522 个项目里位列前 4%。

近 41 天,它的 GitHub 星标从 12,344 增加到 12,491,净增 147。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-22。Apache-2.0许可证,可免费使用和部署。

它主要面向的使用场景是:基于开源大模型做领域微调(如法律、医疗)。同类可对比的替代方案包括 Hugging Face TRL、LLaMA-Factory、Unsloth。

上一篇:litgpt

下一篇:ludwig

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 62178 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1286 2026-08-13