mlx-tune

在 Mac 上本地微调大模型，多模态全支持，速度飞快

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署音频音乐 🍴 复刻 102 🐛 待处理 14 👀 关注 12

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 1456

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源项目，本地部署，完全免费，无付费版本。

项目预览

项目数据

分类音频音乐

开发团队ARahim3

官网地址https://arahim3.github.io/mlx-tune

GitHubhttps://github.com/ARahim3/mlx-tune

定价模式🏷️完全免费

价格说明开源项目，本地部署，完全免费，无付费版本。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型apple-silicon,deep-learning,huggingface,large-language-models,llm,llm-finetuning,local-llm,lora,machine-learning,macos,mlx,on-device-ai,peft,speech-recognition,speech-to-text,text-to-speech,transformers,unsloth,vision-language-model,whisper

GitHub 星标★ 1456

上线时间2026-01-03 00:00:00

代码更新2026-06-23

仓库体积5.1 MB

本站数据更新2026-11-09

维护状态低维护

收录时间2026-08-09

浏览次数5

项目介绍

mlx-tune 是一个专为 Apple Silicon Mac 设计的 LLM 微调工具，基于 MLX 框架原生运行，让开发者无需云端 GPU 即可在本地完成模型训练。它解决的是 Mac 用户难以高效微调大模型的问题，支持 SFT、DPO、GRPO 等多种训练范式，覆盖文本、视觉、TTS、STT、嵌入和 OCR 等模态，并提供与 Unsloth 兼容的 API，降低迁移成本。核心能力包括 LoRA 等高效微调技术、多任务支持以及针对 Apple Silicon 的优化，使训练速度和资源利用达到理想平衡。项目处于成长阶段，社区活跃，适合个人开发者和小团队探索模型定制。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1456

技术标签

apple-silicon deep-learning huggingface large-language-models llm

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：进阶约 15 分钟部署方式：库/依赖 4 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

Apple Silicon 芯片的 Mac（MLX 原生运行，非 Apple Silicon 不支持）
Python 3.9 或更高版本
MLX 0.20 或更高版本
可访问 HuggingFace 下载模型（示例使用 mlx-community/Llama-3.2-1B-Instruct-4bit）

安装与启动步骤

1检查运行环境

确认本机为 Apple Silicon 且 Python 版本达到 3.9 以上，否则后续无法使用 MLX。
```
python3 --version
```
2安装 mlx-tune

README 的 Installation 段落为空，未给出安装命令；项目通过 PyPI 分发且依赖 MLX 0.20+，请按官网文档安装。

3编写快速上手脚本

新建 quickstart.py，粘贴 README 中的 Quick Start 代码：导入 FastLanguageModel 并加载 4bit 模型。

from mlx_tune import FastLanguageModel, SFTTrainer, SFTConfig
from datasets import load_dataset

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name="mlx-community/Llama-3.2-1B-Instruct-4bit",
    max_seq_length=2048,
    load_in_4bit=True,
)

4运行脚本验证

执行脚本，首次运行会从 HuggingFace 拉取模型权重；能正常导入 mlx_tune 并加载模型即说明环境可用。
```
python3 quickstart.py
```

关键配置

配置项	必填	说明	示例
`model_name`	是	指定要加载的 HuggingFace 模型，可换成任意兼容模型	`mlx-community/Llama-3.2-1B-Instruct-4bit`
`max_seq_length`	是	最大序列长度，示例中设为 2048	`2048`
`load_in_4bit`	是	是否以 4bit 量化加载模型，降低内存占用	`True`