FastDeploy

用飞桨生态，一键部署大模型到生产环境

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 757 🐛 待处理 634 👀 关注 48

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 3725

维护状态维护中

是否开源开源

定价模式 🏷️完全免费开源项目，基于Apache-2.0许可证，可免费使用和部署。

项目预览

项目数据

分类开源模型

开发团队PaddlePaddle

官网地址https://paddlepaddle.github.io/FastDeploy

GitHubhttps://github.com/PaddlePaddle/FastDeploy

定价模式🏷️完全免费

价格说明开源项目，基于Apache-2.0许可证，可免费使用和部署。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型ernie,ernie-45,ernie-45-vl,inference,llm,llm-serving,openai,serving,vllm

GitHub 星标★ 3725

上线时间2022-06-27 00:00:00

代码更新2026-09-24

仓库体积69.3 MB

本站数据更新2026-11-09

维护状态维护中

收录时间2026-08-09

浏览次数4

项目介绍

FastDeploy 是百度飞桨（PaddlePaddle）生态下的高性能推理与部署工具包，专注于大语言模型（LLM）和多模态模型（VLM）的快速部署。它解决了从模型训练到生产环境部署之间的最后一公里问题，提供了统一的推理引擎和部署方案，支持多种主流模型架构（如GPT、LLaMA、ChatGLM等）的量化、剪枝和优化，并能在CPU、GPU、NPU等异构硬件上高效运行。核心能力包括：一键式模型转换与部署、高性能推理内核（集成TensorRT、OpenVINO等）、丰富的预置模型库、以及灵活的Python和C++ API，使得开发者可以快速将模型集成到实际业务中。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 3725

技术标签

inference llm llm-serving openai serving

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：进阶约 30 分钟部署方式：本地安装 5 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

操作系统：Linux（README 徽章标注 os-linux）
Python 版本：3.10（README 徽章标注 python-3.10）
支持的推理硬件之一：英伟达 GPU、昆仑芯 XPU、天数 GPU、燧原 GCU、海光 DCU、沐曦 GPU、英特尔 Gaudi
能够访问 GitHub 与 FastDeploy 官方文档站点以下载源码和安装说明

安装与启动步骤

1确认硬件是否支持

先看 README 安装章节的支持列表，确认自己的加速卡在其中，再选对应文档。
2准备软硬件环境

README 徽章标明需 Linux 系统与 Python 3.10，请提前装好对应环境。
3获取项目源码

从官方仓库克隆代码到本地，后续按文档在源码目录中执行安装。
```
git clone https://github.com/PaddlePaddle/FastDeploy.git
cd FastDeploy
```
4打开对应安装文档

按硬件打开 docs/zh/get_started/installation 下的安装文档，不要混用其他硬件步骤。
5按文档完成安装

严格照所选硬件文档给出的安装命令执行，README 未给出可直接复制的命令。