vllm-ascend

让 vLLM 在昇腾 NPU 上跑起来，无缝用上大模型推理

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 2648 🐛 待处理 5000 👀 关注 60

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 3060

维护状态活跃

是否开源开源

定价模式 🏷️完全免费开源项目，基于Apache-2.0许可证，可免费使用和部署。

项目预览

vllm-ascend 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类开源模型

开发团队vllm-project

官网地址https://docs.vllm.ai/projects/ascend

GitHubhttps://github.com/vllm-project/vllm-ascend

定价模式🏷️完全免费

价格说明开源项目，基于Apache-2.0许可证，可免费使用和部署。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型inference,llm,llm-serving,llmops,mlops,model-serving,transformer,vllm

GitHub 星标★ 3060

上线时间2025-01-29 00:00:00

代码更新2026-11-09

仓库体积130.1 MB

本站数据更新2026-11-09

维护状态活跃

收录时间2026-08-09

浏览次数6

项目介绍

vllm-ascend 是 vLLM 在华为昇腾（Ascend）硬件上的社区维护插件，旨在让 vLLM 这一主流大模型推理框架能够无缝运行在昇腾 NPU 上。它解决了昇腾用户无法直接使用 vLLM 生态的问题，通过适配层将 vLLM 的算子、内存管理和调度逻辑映射到昇腾 CANN 平台，从而支持高性能的大模型推理。核心能力包括：提供与 vLLM 一致的 API 接口，支持主流大模型（如 Llama、Qwen 等）在昇腾设备上的推理，并利用昇腾的硬件特性进行优化。该项目由华为和社区共同维护，是昇腾 AI 生态中重要的开源组件，帮助开发者降低在昇腾平台上部署大模型的门槛，同时保持与上游 vLLM 的同步更新。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 3060

技术标签

inference llm llm-serving llmops mlops

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：高级约 30 分钟部署方式：本地安装 5 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

华为昇腾（Ascend）NPU 硬件环境
已安装与所选版本匹配的昇腾 CANN 驱动与工具包
可访问官方文档站点（docs.vllm.ai/projects/ascend）以获取版本对应的安装命令
Python 运行环境（vLLM 及其依赖，具体版本要求见官方 Installation 文档）

安装与启动步骤

1确认版本对应关系

先看 Support Matrix，确认自家昇腾硬件、CANN 版本与插件版本的对应关系，再决定装哪个版本。
2选择发行版本

v0.23.0 为最新稳定版，v0.26.0rc1 为候选版本；生产环境建议使用稳定版 v0.23.0。
3按官方文档安装

打开所选版本对应的 Installation 文档页，按其给出的步骤和命令完成安装，不要混用不同版本的文档。
4可选：克隆仓库

如需查看源码、示例或自行构建，可克隆仓库；具体构建参数以官方文档为准。
```
git clone https://github.com/vllm-project/vllm-ascend.git
```
5运行快速开始

按所选版本对应的 QuickStart 文档启动服务并发起推理请求，验证插件在昇腾设备上可用。