ms-swift

一条命令微调千种大模型，从训练到部署全搞定

ms-swift 是魔搭社区推出的国产大模型全流程训练与部署工具，旨在解决开发者微调大模型时面临的框架割裂、上手门槛高、多模态支持不足等痛点。它支持从增量预训练（CPT）、指令微调（SFT）到偏好对齐（DPO/GRPO）的完整训练链路，覆盖 600+ 主流 LLM（如 Qwen、DeepSeek、GLM、Llama）和 300+ 多模态模型（如 Qwen-VL、InternVL），并兼容 PEFT 与全参数训练两种模式。核心能力包括：统一简洁的 CLI 接口，一条命令即可完成训练、推理、导出；内置 LoRA、QLoRA 等高效微调策略，降低显存门槛；提供模型评估、量化、部署（vLLM 等）的端到端支持；同时具备完善的文档和丰富示例，适合学术研究与工业落地。作为 AAAI 2025 论文成果，其技术成熟度与社区活跃度较高，是当前开源生态中覆盖模型最广、功能最全的微调框架之一。

开源 free 开源模型

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 15707

维护状态活跃

是否开源是

定价模式 free

项目数据

分类开源模型

开发团队modelscope

所属国家

官网地址

GitHubhttps://github.com/modelscope/ms-swift

定价模式free

价格说明开源项目，Apache-2.0许可，完全免费，可自行部署使用。

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型deepseek-r1,embedding,grpo,internvl,liger,llama,llama4,llm,lora,megatron,moe,multimodal,open-r1,peft,qwen3,qwen3-6,qwen3-omni,qwen3-vl,reranker,sft

GitHub 星标★ 15707

30天Star增速

HF 下载量

上线时间2023-08-01 00:00:00

最近更新2026-09-22 00:00:00

维护状态活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数4

使用教程

难度：入门约 10 分钟部署方式：命令行工具 3 步

环境要求

Python 环境（可用 pip 安装 ms-swift）
ModelScope ≥ 1.23（README 徽章标注的最低版本）
NVIDIA GPU + CUDA 环境（deploy 命令使用 CUDA_VISIBLE_DEVICES 指定显卡）
vLLM 推理后端（--infer_backend vllm 需要可用环境）

安装与启动步骤

1安装 ms-swift

用 pip 安装并升级到最新版本，这是官方 README 给出的首选安装方式。
```
pip install ms-swift -U
```
2可选：克隆源码

如需使用源码或查看 examples，可克隆仓库并进入目录；main 分支对应 swift 4.x。
```
git clone https://github.com/modelscope/ms-swift.git
cd ms-swift
```
3启动模型部署

用 swift deploy 启动推理服务，指定模型 ID 与 vllm 后端，GPU 通过 CUDA_VISIBLE_DEVICES 指定。
```
CUDA_VISIBLE_DEVICES=0 swift deploy 
    --model Qwen/Qwen3-4B-Instruct-2507 
    --infer_backend vllm
```

关键配置

配置项	必填	说明	示例
`--model`	是	指定要训练的模型 ID 或本地路径，换模型只改这一项。	`Qwen/Qwen3-4B-Instruct-2507`
`--dataset`	否	指定数据集 ID 或路径，换数据集只改这一项（README 训练示例中使用）。	`your_dataset_id`
`--infer_backend`	是	部署时使用的推理后端，README 示例使用 vllm。	`vllm`
`--use_hf`	否	改为从 HuggingFace 下载模型和数据集，默认使用 ModelScope。	`true`
`CUDA_VISIBLE_DEVICES`	否	指定使用的 GPU 编号，示例中为 0 号卡。	`0`

如何确认成功

执行部署命令后，终端无报错并完成模型加载、打印服务启动日志，即表示部署成功（README 未给出端口，请以实际输出为准）。

常见问题

Q：pip 安装 ms-swift 失败或想装最新代码怎么办？

A：README 提供了 git 方式：pip install git+https://github.com/modelscope/ms-swift.git，或先 git clone 仓库再安装。

Q：想用 HuggingFace 下载模型和数据集？

A：在命令中加上 --use_hf true 即可；默认使用 ModelScope 下载模型和数据集。

Q：想换一个模型或数据集？

A：只需修改 --model 为对应模型 ID 或路径，修改 --dataset 为对应数据集 ID 或路径，多模态模型和数据集同理。

Q：怎么安装 swift 3.x？

A：README 说明 main 分支对应 swift 4.x，安装 swift 3.x 需执行 README 中对应命令，本次节选未给出完整命令，请查看官方安装文档。

注意事项

默认从 ModelScope 下载模型和数据集，切换 HuggingFace 需加 --use_hf true。
README 中 10 分钟自认知微调 Qwen3-4B-Instruct-2507 示例的具体命令未在节选中给出，请参考官方文档与 examples 目录。
main 分支为 swift 4.x，注意版本差异。
部署示例在单卡（CUDA_VISIBLE_DEVICES=0）上运行，请按实际显卡编号调整。

核心亮点

覆盖模型极广：600+ LLM 与 300+ MLLM，主流新模型（Qwen3、DeepSeek-V4）快速适配
训练方法全：CPT/SFT/DPO/GRPO 全支持，PEFT 与全参数灵活切换
端到端闭环：训练、评估、量化、部署（vLLM）无缝衔接，降低工程成本

不足之处

依赖魔搭生态，与 Hugging Face 生态的兼容性需额外配置
文档/社区待观察：部分高级功能（如 GRPO）的教程深度不足

适用场景

学术研究：快速验证新模型微调效果，对比不同训练策略
企业私有化部署：针对业务数据微调开源模型并部署服务
多模态应用开发：微调视觉-语言模型，构建特定场景的智能应用

替代项目

Hugging Face TRL、LLaMA-Factory、Axolotl

项目介绍

ms-swift 是模型训练领域的开源项目，由 modelscope 开发，2023 年首次发布。

在全站 13,014 个收录项目中，它的 GitHub 星标数（15,707）位列前 4%，在模型训练分类的 518 个项目里位列前 3%。

近 41 天，它的 GitHub 星标从 15,136 增加到 15,707，净增 571。

项目目前处于活跃维护状态，最近一次代码更新于 2026-09-22。Apache-2.0许可，完全免费，可自行部署使用。

它主要面向的使用场景是：学术研究：快速验证新模型微调效果，对比不同训练策略。同类可对比的替代方案包括 Hugging Face TRL、LLaMA-Factory、Axolotl。

上一篇：peft

下一篇：litgpt