sglang-omni

让语音和多模态模型服务快如闪电，吞吐翻倍

SGLang-Omni 是一个基于 SGLang 的高性能多模态推理服务框架，专注于语音相关模型（TTS、ASR）及全模态（omni）模型的部署。它解决了传统语音模型服务中延迟高、吞吐低、多模态协同困难的问题，通过优化的 CUDA 内核、分布式推理和异步流水线，实现了低延迟、高并发的模型服务。核心能力包括：支持 OpenAI 兼容 API，便于集成；提供统一的推理接口，覆盖文本、语音和音频生成；利用 PyTorch 生态，易于扩展新模型。项目处于早期阶段，但已吸引近 800 星标，显示出社区对高性能语音推理服务的强烈需求。

开源 free 基础设施

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 1282

维护状态活跃

是否开源是

定价模式 free

项目数据

分类基础设施

开发团队sgl-project

所属国家

官网地址https://sgl-project.github.io/sglang-omni

GitHubhttps://github.com/sgl-project/sglang-omni

定价模式free

价格说明开源项目，免费使用，定价信息待确认

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型asr,audio-generation,cuda,distributed-inference,inference,model-serving,multimodal,music-generation,openai-api,pytorch,sglang,speech-recognition,streaming,text-to-speech,tts

GitHub 星标★ 1282

30天Star增速

HF 下载量

上线时间2026-01-07 00:00:00

最近更新2026-09-27 00:00:00

维护状态活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-14

浏览次数11

使用教程

难度：进阶约 20 分钟部署方式：本地安装 5 步

环境要求

Python 环境（安装脚本使用 uv 管理依赖）
macOS Apple Silicon 可用官方一键脚本，其他平台需参照官方安装文档
推荐 NVIDIA GPU + CUDA 环境（项目基于 CUDA 内核与 PyTorch 推理）
能访问 GitHub 与 PyPI 的网络环境

安装与启动步骤

1克隆项目仓库

从 GitHub 拉取 sglang-omni 源码，并进入项目根目录，后续安装脚本需在此目录执行。
```
git clone https://github.com/sgl-project/sglang-omni.git
cd sglang-omni
```
2macOS 一键安装

macOS Apple Silicon 用户可直接在仓库根目录运行脚本，它会自动完成 Homebrew 与 uv 环境配置。
```
./install.sh
```
3按文档完成安装

非 macOS 平台 README 未给命令，请打开官方 installation 文档按步骤安装；PyPI 上的包名为 sglang-omni。
```
pip install sglang-omni
```
4选择使用场景

按需要查阅官方文档：TTS 语音合成、Qwen3-Omni 全模态、Qwen3-ASR 语音识别与转写说话人分离。
5运行并验证服务

按对应 cookbook 启动服务或调用示例，确认模型能正常返回音频或文本结果。

如何确认成功

按官方 TTS 或 Qwen3-Omni 文档运行示例，若模型能正常返回音频/文本结果，即说明部署成功。

常见问题

Q：Windows 或 Linux 上怎么安装？

A：README 只提供了 macOS Apple Silicon 的一键脚本 ./install.sh，其他平台请按官方 installation 文档逐步安装。

Q：一键脚本做了什么？

A：install.sh 会完成 Homebrew + uv 的环境搭建，随后即可用 uv 管理 Python 依赖。

Q：有哪些可直接参考的用法示例？

A：官方文档提供 TTS usage、Qwen3-Omni usage、Qwen3-ASR cookbook、MOSS-Transcribe-Diarize cookbook 等示例。

Q：需要什么样的硬件？

A：项目依赖 CUDA 内核与 PyTorch，语音与全模态模型推理建议使用 NVIDIA GPU；README 未给出具体显存要求。

注意事项

项目处于早期阶段，API 与安装方式可能随版本变化，请以官网文档为准。
README 节选中未给出端口、API Key、模型路径等配置项，请勿自行臆造，需查阅官方文档确认。
除 macOS Apple Silicon 外，其他系统的安装步骤以 https://sgl-project.github.io/sglang-omni/get_started/installation.html 为准。
使用问题可参考 DeepWiki 或到 GitHub Issues 提问。

核心亮点

基于 SGLang 成熟框架，推理性能优化到位，延迟低、吞吐高
原生支持 OpenAI API，集成现有应用零成本
统一支持 TTS/ASR/音频生成，多模态场景一站搞定

不足之处

早期项目，文档和示例相对较少，上手门槛偏高
模型兼容性有限，主要适配特定架构，通用性待验证

适用场景

实时语音助手后端服务，需低延迟响应
大规模音频内容生成平台，需高吞吐处理
多模态交互应用，需同时处理语音、文本和音频

替代项目

vLLM、Triton Inference Server、Hugging Face TGI

项目介绍

sglang-omni 是基础设施领域的开源项目，由 sgl-project 开发，是 2026 年新上线的项目。

在全站 13,199 个收录项目中，它的 GitHub 星标数（1,282）位列前 30%，在基础设施分类中处于中上游。

近 45 天，它的 GitHub 星标从 796 增加到 1,282，净增 486。

项目目前处于活跃维护状态，最近一次代码更新于 2026-09-27。免费使用。

它主要面向的使用场景是：实时语音助手后端服务，需低延迟响应。同类可对比的替代方案包括 vLLM、Triton Inference Server、Hugging Face TGI。

上一篇：vLLM-Hook

下一篇：pai