ms-swift

一条命令微调千种大模型，从训练到部署全搞定

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 1790 🐛 待处理 598 👀 关注 55

GitHub ↗

GitHub 星标 ★ 16058

维护状态活跃

是否开源开源

定价模式 🏷️完全免费开源项目，Apache-2.0许可，完全免费，可自行部署使用。

项目预览

项目数据

分类开源模型

开发团队modelscope

GitHubhttps://github.com/modelscope/ms-swift

定价模式🏷️完全免费

价格说明开源项目，Apache-2.0许可，完全免费，可自行部署使用。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型deepseek,embedding,glm,grpo,jev,kimi,liger,llm,lora,megatron,moe,multimodal,peft,qwen,qwen3,qwen3-omni,qwen3-vl,reranker,sft

GitHub 星标★ 16058

上线时间2023-08-01 00:00:00

代码更新2026-11-08

仓库体积88.6 MB

本站数据更新2026-11-08

维护状态活跃

收录时间2026-08-09

浏览次数6

项目介绍

ms-swift 是魔搭社区推出的国产大模型全流程训练与部署工具，旨在解决开发者微调大模型时面临的框架割裂、上手门槛高、多模态支持不足等痛点。它支持从增量预训练（CPT）、指令微调（SFT）到偏好对齐（DPO/GRPO）的完整训练链路，覆盖 600+ 主流 LLM（如 Qwen、DeepSeek、GLM、Llama）和 300+ 多模态模型（如 Qwen-VL、InternVL），并兼容 PEFT 与全参数训练两种模式。核心能力包括：统一简洁的 CLI 接口，一条命令即可完成训练、推理、导出；内置 LoRA、QLoRA 等高效微调策略，降低显存门槛；提供模型评估、量化、部署（vLLM 等）的端到端支持；同时具备完善的文档和丰富示例，适合学术研究与工业落地。作为 AAAI 2025 论文成果，其技术成熟度与社区活跃度较高，是当前开源生态中覆盖模型最广、功能最全的微调框架之一。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 16058

技术标签

deepseek embedding glm grpo jev

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：入门约 10 分钟部署方式：命令行工具 3 步

环境要求

Python 环境（可用 pip 安装 ms-swift）
ModelScope ≥ 1.23（README 徽章标注的最低版本）
NVIDIA GPU + CUDA 环境（deploy 命令使用 CUDA_VISIBLE_DEVICES 指定显卡）
vLLM 推理后端（--infer_backend vllm 需要可用环境）

安装与启动步骤

1安装 ms-swift

用 pip 安装并升级到最新版本，这是官方 README 给出的首选安装方式。
```
pip install ms-swift -U
```
2可选：克隆源码

如需使用源码或查看 examples，可克隆仓库并进入目录；main 分支对应 swift 4.x。
```
git clone https://github.com/modelscope/ms-swift.git
cd ms-swift
```
3启动模型部署

用 swift deploy 启动推理服务，指定模型 ID 与 vllm 后端，GPU 通过 CUDA_VISIBLE_DEVICES 指定。
```
CUDA_VISIBLE_DEVICES=0 swift deploy \
    --model Qwen/Qwen3-4B-Instruct-2507 \
    --infer_backend vllm
```

关键配置

配置项	必填	说明	示例
`--model`	是	指定要训练的模型 ID 或本地路径，换模型只改这一项。	`Qwen/Qwen3-4B-Instruct-2507`
`--dataset`	否	指定数据集 ID 或路径，换数据集只改这一项（README 训练示例中使用）。	`your_dataset_id`
`--infer_backend`	是	部署时使用的推理后端，README 示例使用 vllm。	`vllm`
`--use_hf`	否	改为从 HuggingFace 下载模型和数据集，默认使用 ModelScope。	`true`
`CUDA_VISIBLE_DEVICES`	否	指定使用的 GPU 编号，示例中为 0 号卡。	`0`