mlx-tune

在 Mac 上本地微调大模型，多模态全支持，速度飞快

mlx-tune 是一个专为 Apple Silicon Mac 设计的 LLM 微调工具，基于 MLX 框架原生运行，让开发者无需云端 GPU 即可在本地完成模型训练。它解决的是 Mac 用户难以高效微调大模型的问题，支持 SFT、DPO、GRPO 等多种训练范式，覆盖文本、视觉、TTS、STT、嵌入和 OCR 等模态，并提供与 Unsloth 兼容的 API，降低迁移成本。核心能力包括 LoRA 等高效微调技术、多任务支持以及针对 Apple Silicon 的优化，使训练速度和资源利用达到理想平衡。项目处于成长阶段，社区活跃，适合个人开发者和小团队探索模型定制。

开源 free 音频音乐

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 1413

维护状态低维护

是否开源是

定价模式 free

项目数据

分类音频音乐

开发团队ARahim3

所属国家

官网地址https://arahim3.github.io/mlx-tune

GitHubhttps://github.com/ARahim3/mlx-tune

定价模式free

价格说明开源项目，本地部署，完全免费，无付费版本。

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型apple-silicon,deep-learning,huggingface,large-language-models,llm,llm-finetuning,local-llm,lora,machine-learning,macos,mlx,on-device-ai,peft,speech-recognition,speech-to-text,text-to-speech,transformers,unsloth,vision-language-model,whisper

GitHub 星标★ 1413

30天Star增速

HF 下载量

上线时间2026-01-03 00:00:00

最近更新2026-09-23 00:00:00

维护状态低维护

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数4

使用教程

难度：进阶约 15 分钟部署方式：库/依赖 4 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

Apple Silicon 芯片的 Mac（MLX 原生运行，非 Apple Silicon 不支持）
Python 3.9 或更高版本
MLX 0.20 或更高版本
可访问 HuggingFace 下载模型（示例使用 mlx-community/Llama-3.2-1B-Instruct-4bit）

安装与启动步骤

1检查运行环境

确认本机为 Apple Silicon 且 Python 版本达到 3.9 以上，否则后续无法使用 MLX。
```
python3 --version
```
2安装 mlx-tune

README 的 Installation 段落为空，未给出安装命令；项目通过 PyPI 分发且依赖 MLX 0.20+，请按官网文档安装。

3编写快速上手脚本

新建 quickstart.py，粘贴 README 中的 Quick Start 代码：导入 FastLanguageModel 并加载 4bit 模型。

from mlx_tune import FastLanguageModel, SFTTrainer, SFTConfig
from datasets import load_dataset

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name="mlx-community/Llama-3.2-1B-Instruct-4bit",
    max_seq_length=2048,
    load_in_4bit=True,
)

4运行脚本验证

执行脚本，首次运行会从 HuggingFace 拉取模型权重；能正常导入 mlx_tune 并加载模型即说明环境可用。
```
python3 quickstart.py
```

关键配置

配置项	必填	说明	示例
`model_name`	是	指定要加载的 HuggingFace 模型，可换成任意兼容模型	`mlx-community/Llama-3.2-1B-Instruct-4bit`
`max_seq_length`	是	最大序列长度，示例中设为 2048	`2048`
`load_in_4bit`	是	是否以 4bit 量化加载模型，降低内存占用	`True`

如何确认成功

脚本运行无报错，mlx_tune 与所需类能成功导入，并完成指定模型的加载。

常见问题

Q：为什么找不到安装命令？

A：README 的 Installation 段落为空，未列出 pip 命令；请以官方文档 https://arahim3.github.io/mlx-tune/ 的最新安装说明为准。

Q：Intel Mac 或 Windows 能用吗？

A：不能。mlx-tune 基于 MLX 框架原生运行，仅支持 Apple Silicon 的 Mac。

Q：必须联网吗？

A：是。示例会通过 HuggingFace 下载 mlx-community/Llama-3.2-1B-Instruct-4bit 模型权重，首次运行需要网络。

Q：内存吃紧怎么办？

A：示例已使用 load_in_4bit=True 和 1B 级别模型，可继续选用更小的模型或降低 max_seq_length。

注意事项

README 未提供实际安装命令，安装步骤需参考官网文档
需满足 Python 3.9+ 与 MLX 0.20+ 才可运行
官方提供与 Unsloth 兼容的 API，便于迁移已有训练脚本
支持 SFT、DPO、GRPO 及视觉、TTS、STT、嵌入、OCR 等多种微调任务

核心亮点

原生 MLX 优化，充分利用 Apple Silicon 统一内存，训练效率高
支持 SFT/DPO/GRPO 及视觉、语音、OCR 等多模态微调，功能全面
API 兼容 Unsloth，方便从云端方案无缝迁移到本地

不足之处

仅支持 Apple Silicon Mac，硬件限制明显
文档/社区待观察

适用场景

个人开发者在本机快速实验模型微调，无需 GPU 服务器
隐私敏感场景下本地训练，避免数据上传云端
教育或研究用途，低成本教学 LLM 微调流程

替代项目

Unsloth、Axolotl、LLaMA-Factory

项目介绍

mlx-tune 是模型训练领域的开源项目，由 ARahim3 开发，是 2026 年新上线的项目。

在全站 13,090 个收录项目中，它的 GitHub 星标数（1,413）位列前 30%，在模型训练分类中处于中上游。

近 42 天，它的 GitHub 星标从 1,378 增加到 1,413，净增 35。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-23。本地部署，完全免费，无付费版本。

它主要面向的使用场景是：个人开发者在本机快速实验模型微调，无需GPU服务器。同类可对比的替代方案包括 Unsloth、Axolotl、LLaMA-Factory。

上一篇：OpenSeq2Seq

下一篇：LLaSA_training