axolotl

一条命令微调大模型，省心省力

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 开源模型 🍴 复刻 1472 🐛 待处理 249 👀 关注 55
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 12674
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目，Apache-2.0许可证，可免费使用和部署。

项目预览

axolotl 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类开源模型
开发团队axolotl-ai-cloud
官网地址https://docs.axolotl.ai
GitHubhttps://github.com/axolotl-ai-cloud/axolotl
定价模式🏷️完全免费
价格说明开源项目，Apache-2.0许可证，可免费使用和部署。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型fine-tuning,llm
GitHub 星标★ 12674
上线时间2023-04-14 00:00:00
代码更新2026-11-09
仓库体积73.3 MB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-09
浏览次数8

项目介绍

axolotl 是一个用于微调大型语言模型的开源工具，旨在简化从数据准备到模型训练的全流程。它解决了开发者在使用 Hugging Face Transformers 等框架时面临的配置复杂、多模型支持不足和训练脚本难以复用的问题。axolotl 提供统一的 YAML 配置文件，支持 LLaMA、Mistral、Falcon 等多种主流模型架构，并集成了 Flash Attention、LoRA/QLoRA、DeepSpeed 等优化技术，能显著降低微调门槛和资源消耗。其核心能力包括数据预处理、多机多卡训练、断点续训和实验追踪，适合研究者和工程师快速迭代自定义模型。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 12674

技术标签

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：入门 约 10 分钟 部署方式：Docker 5 步

环境要求

  • NVIDIA GPU（Ampere 或更新架构，用于 bf16 与 Flash Attention）或 AMD GPU
  • Python >= 3.11（推荐 3.12）
  • PyTorch >= 2.11.0（推荐 2.12.1）
  • 本机已安装 Docker（使用 Docker 方式时）

安装与启动步骤

  1. 1确认硬件与版本

    先检查显卡是否为 NVIDIA Ampere 或更新架构，或 AMD GPU；同时确认 Python 与 PyTorch 版本满足最低要求。

  2. 2安装 uv 包管理器

    README 给出的安装前置动作：执行脚本安装 uv，如果本机已有 uv 可跳过。

    curl -LsSf https://astral.sh/uv/install.sh | sh

  3. 3重启终端

    uv 安装完成后需要重启 shell（重新打开终端），让 uv 命令进入 PATH 后再生效。

  4. 4用 Docker 启动 axolotl

    README 说明 Docker 安装比在自有环境安装更不易出错，该命令挂载全部 GPU 并以交互方式进入容器。

    docker run --gpus '"all"' --ipc=host --rm -it axolotlai/axolotl:main-latest

  5. 5查看其他安装方式

    若不想用 Docker，README 指向官方文档的安装页面，其中列出了其余安装方式。

如何确认成功

README 未给出验证命令；容器启动后可参考官方文档 docs.axolotl.ai 确认环境是否可用。

常见问题

Q：Docker 安装和本地安装该选哪个？

A：README 明确说明：用 Docker 安装比在自己环境中安装更不容易出错，新手建议先用 Docker 方式。

Q：为什么要求 Ampere 或更新的 NVIDIA GPU？

A：README 指出 bf16 和 Flash Attention 需要 Ampere 或更新架构的 NVIDIA GPU；不满足时可用 AMD GPU。

Q：Python 和 PyTorch 版本有硬性要求吗？

A：README 要求 Python >= 3.11（推荐 3.12），PyTorch >= 2.11.0（推荐 2.12.1）。

Q：安装 uv 后提示找不到 uv 命令？

A：README 提示安装脚本执行后需要重启 shell（重新打开终端）才能生效。

Q：还有哪些安装方式？

A：README 指向官方文档安装页：https://docs.axolotl.ai/docs/installation.html。

注意事项

  • Docker 命令中的 --gpus '"all"' 表示暴露全部 GPU，--ipc=host 用于容器与主机共享内存。
  • uv 安装脚本执行后必须重启终端，否则命令不可用。
  • README 节选未提供本地 pip/源码安装的具体命令，请以官方文档安装页为准。
  • axolotl 是命令行微调框架，具体训练需自行准备 YAML 配置，README 节选未给出示例配置。

核心亮点

  • 统一 YAML 配置，无需编写复杂训练脚本
  • 内置 LoRA/QLoRA、Flash Attention 等优化，显存占用低
  • 支持主流模型架构和数据集格式，开箱即用

不足之处

  • 文档偏重使用示例，对内部机制解释较少
  • 依赖较多，环境配置可能稍显繁琐

适用场景

  • 基于开源大模型做领域微调（如法律、医疗）
  • 在有限 GPU 资源下进行参数高效微调
  • 批量实验不同模型和超参，快速对比效果

替代项目

Hugging Face TRL、LLaMA-Factory、Unsloth

上一篇：litgpt

下一篇：ludwig

同类项目推荐

minAlphaFold2 开源

用 PyTorch 极简复现 AlphaFold2，读懂蛋白质结构预测

A minimal PyTorch re-implementation of AlphaFold2's model & training

★ 641 2026-10-12
DS2 开源

用 LLM 评分自动筛数据，少数据也能训出好模型

[ICLR 2025] Official implementation of paper "Improving Data Efficiency via Curating···

★ 102 2026-08-09
BitVAE 开源

用比特级分词，让图像生成更精细高效

official training and inference code of bitwise tokenizer

★ 73 2026-08-09
meta-context-engineering 开源

让AI自动进化上下文策略，告别手写提示词

[ICML 2026] Meta Context Engineering via Agentic Skill Evolution

★ 185 2026-08-09
model-optimization 开源

几行代码压缩模型，让大模型跑进手机和嵌入式设备

A toolkit to optimize ML models for deployment for Keras and TensorFlow, including q···

★ 1582 2026-10-17
Open-LLaVA-NeXT 开源

开源复现 LLaVA-NeXT，快速训练你的多模态对话模型

An open-source implementation for training LLaVA-NeXT.

★ 438 2026-08-09
TFMQ-DM 开源

给扩散模型瘦身，4-bit量化不降画质，部署提速。

[CVPR 2024 Highlight & TPAMI 2025] This is the official PyTorch implementation of "T···

★ 111 2026-08-09
ReCall 开源

让大模型学会自己上网查资料，回答更准更及时

ReSearch: Learning to Reason with Search for LLMs via Reinforcement Learning & ReCal···

★ 1446 2026-08-09
FineTuningLLMs 开源

跟着书一步步微调大模型，从零跑通全流程

Official repository of my book "A Hands-On Guide to Fine-Tuning LLMs with PyTorch an···

★ 878 2026-08-09