SiLLM

在 Mac 上轻松训练和运行大模型，无需 NVIDIA GPU。

SiLLM 是一个基于 Apple MLX 框架的开源工具，旨在简化在 Apple Silicon 芯片上训练和运行大语言模型（LLM）的流程。它解决了 Mac 用户因缺乏 NVIDIA GPU 而难以进行本地模型训练和推理的痛点，提供了一套简洁的接口，让开发者能够利用 Mac 的统一内存架构和 MLX 的高效计算能力，轻松加载、微调（如 LoRA）和运行主流开源模型（如 Llama、Mistral 等）。项目核心能力包括：模型下载与转换、训练脚本封装、推理示例，以及针对 Apple Silicon 的优化配置。其目标是让 Mac 成为 LLM 开发与实验的可行平台，降低硬件门槛，适合个人开发者、研究人员和 AI 爱好者快速上手。