mlx-lm-lora

Mac 上微调大模型，LoRA/DPO 一条命令跑通

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 模型训练 🍴 复刻 64 🐛 待处理 2 👀 关注 13
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 468
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费，需自行部署

项目预览

mlx-lm-lora 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类模型训练
开发团队Goekdeniz-Guelmez
官网地址https://goekdeniz-guelmez.github.io/mlx-lm-lora
GitHubhttps://github.com/Goekdeniz-Guelmez/mlx-lm-lora
定价模式🏷️完全免费
价格说明开源免费，需自行部署
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型apple,deep-learning,dpo,fine,finetuning-llms,ml,rlhf,supervised-machine-learning,training
GitHub 星标★ 468
上线时间2025-05-10 00:00:00
代码更新2026-10-26
仓库体积9.1 MB
本站数据更新2026-11-04
维护状态较活跃
收录时间2026-09-15
浏览次数1

项目介绍

mlx-lm-lora 是面向 Apple Silicon 的 LLM 训练工具，基于苹果 MLX 框架，让 Mac 用户无需 NVIDIA GPU 也能对大语言模型做微调。它解决的核心问题是：在本地 Mac 上完成 LoRA、全量微调、DPO、ORPO 等训练流程，避免依赖云端算力。项目提供命令行入口，支持加载 HuggingFace 上的主流模型，自动完成数据格式转换、LoRA 适配器注入、训练与合并导出，并支持将训练好的适配器直接用于推理。相比通用训练框架，它针对 MLX 做了内存与算子优化，能利用统一内存架构，在 M 系列芯片上跑通 7B 级别模型的微调。适合个人开发者、研究者做实验性训练、领域适配和偏好对齐，是 Mac 本地 LLM 训练链路中较完整的一环。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-09-15 · 当前星标 ★ 468

技术标签

使用教程

难度：进阶 约 30 分钟 部署方式：本地安装 4 步

环境要求

  • Apple Silicon Mac
  • Python

安装与启动步骤

  1. 1确认芯片

    它依赖苹果芯片专有的计算框架，别的平台跑不了。

  2. 2装包

    已发布到包索引。

    pip install -U mlx-lm-lora

  3. 3看参数

    命令行入口会列出可用子命令。

    mlx_lm_lora.train --help

  4. 4小数据试训

    先用几百条样本确认链路。

如何确认成功

用一小批数据能跑完一轮微调并产出适配器权重，加载后输出风格有可观察的变化

注意事项

  • 它让苹果芯片上也能做模型的低秩微调，卖点是不用显卡。
  • 只能在苹果芯片上跑，其他平台没有对应实现。
  • 内存是主要限制，模型越大能用的批量越小。
  • 微调数据格式有固定要求，格式不对会在加载时直接报错。

核心亮点

  • 基于 MLX 原生实现，充分利用 Apple Silicon 统一内存，Mac 本地即可训练 7B 级模型
  • 覆盖 LoRA、全量微调、DPO、ORPO 等多种训练范式，训练到合并导出链路完整
  • 命令行接口简洁，支持 HuggingFace 模型与数据集，上手成本低

不足之处

  • 仅支持 Apple Silicon，无法在 Linux/Windows 或 NVIDIA GPU 环境使用
  • 生态与文档规模较小，复杂自定义训练和分布式场景支持有限

适用场景

  • 在 MacBook 上对开源模型做领域数据 LoRA 微调
  • 用个人偏好数据跑 DPO/ORPO 对齐实验
  • 本地快速验证微调效果并合并适配器用于推理

替代项目

LLaMA-Factory、unsloth、peft

上一篇：Skills

下一篇：ROLL

同类项目推荐

verifiers 开源

一套接口搞定 RL 训练环境与评测

Our library for RL environments + evals

★ 4764 2026-09-14
arkor 开源

用 TypeScript 搞定大模型微调，工程化更顺滑

The Best TypeScript framework for fine-tuning

★ 146 2026-08-09
nni 开源

模型调参交给机器自动试，最优结果坐等出炉

An open source AutoML toolkit for automate machine learning lifecycle, including fea···

★ 14367 2026-08-09
ParScale 开源

并行跑多个模型，不堆参数也能提升性能

Parallel Scaling Law for Language Model — Beyond Parameter and Inference Time Scali···

★ 486 2026-08-09
nanochat-mlx 开源

在 Mac 上训练你自己的 ChatGPT，无需云 GPU

Train your own ChatGPT on Apple Silicon — MLX port of nanochat

★ 77 2026-08-09
tirex 开源

零样本预测长短周期，无需训练直接上手

TiRex: Zero-Shot Forecasting Across Long and Short Horizons with Enhanced In-Context···

★ 307 2026-08-09
GuidedQuant 开源

用端到端损失引导量化，让大模型压缩后不掉点

Official PyTorch implementation of "GuidedQuant: Large Language Model Quantization v···

★ 58 2026-08-09
sdnq 开源

低比特量化扩散模型，小显存也能跑图

SD.Next Quantization Engine

★ 139 2026-10-17
MoTCoder 开源

把复杂编程题拆成小模块，让大模型推理更准

This is the official code repository of MoTCoder: Elevating Large Language Models wi···

★ 86 2026-08-09