项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 9747
使用教程
环境要求
- 已在本机安装并可运行 Docker
- 能够拉取 higress-registry.cn-hangzhou.cr.aliyuncs.com 仓库镜像(网络可达)
- 本机 8001、8080、8443 端口未被其他程序占用
安装与启动步骤
-
1确认 Docker 可用
先确认本机已安装 Docker 且守护进程正常运行,否则后面的 docker run 会直接失败。
docker version -
2启动 Higress 容器
用官方 all-in-one 镜像一键启动,同时映射控制台和网关端口;配置文件会写到当前工作目录。
docker run -d --rm --name higress-ai -v ${PWD}:/data \ -p 8001:8001 -p 8080:8080 -p 8443:8443 \ higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest -
3查看容器状态
确认容器处于运行状态;若已退出,可用 docker logs higress-ai 查看失败原因。
docker ps --filter name=higress-ai -
4访问控制台
浏览器打开控制台入口,8001 是 UI 控制台,8080/8443 分别是网关的 HTTP/HTTPS 入口。
-
5拉取超时换镜像源
若拉取镜像超时,可换成北美或东南亚区域的镜像仓库地址重新执行启动命令。
docker run -d --rm --name higress-ai -v ${PWD}:/data \ -p 8001:8001 -p 8080:8080 -p 8443:8443 \ higress-registry.us-west-1.cr.aliyuncs.com/higress/all-in-one:latest
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
global.hub | 否 | Kubernetes 用 Helm 部署时指定镜像仓库地址,可换成本地区域镜像源 | higress-registry.us-west-1.cr.aliyuncs.com |
如何确认成功
浏览器打开 http://localhost:8001 能看到 Higress 控制台界面,且 docker ps 中 higress-ai 容器状态为 Up。
常见问题
Q:拉取镜像一直超时怎么办?
A:换成官方提供的其他区域镜像源:北美 higress-registry.us-west-1.cr.aliyuncs.com,东南亚 higress-registry.ap-southeast-7.cr.aliyuncs.com,然后重新执行启动命令。
Q:控制台打不开是哪里出问题?
A:先确认容器在运行(docker ps),再确认访问的是 8001 端口;8001 是 UI 控制台入口,8080 和 8443 是网关流量入口。
Q:在 Kubernetes 上怎么装?
A:README 未给出完整 K8s 安装步骤,需参考官方 Quick Start 文档;Helm 部署时可通过 global.hub 指定镜像仓库。
Q:容器重启后配置还在吗?
A:配置文件会写入挂载的当前工作目录(${PWD}:/data),但容器以 --rm 启动,停止后容器本身会被自动删除。
注意事项
- 启动命令中的 ${PWD} 是 bash 写法,Windows PowerShell 下需替换为当前目录的实际路径。
- 容器使用 --rm 参数,停止后自动删除,请不要把重要数据只放在容器内。
- 8001/8080/8443 三个端口用途不同,务必分别映射,否则控制台或网关无法访问。
- Kubernetes/Helm 等其它安装方式的详细步骤以官方 Quick Start 文档为准。
核心亮点
- 原生支持 AI 协议(如 OpenAI),可无缝接入多种 LLM,并实现多模型路由与灰度。
- 提供 Token 级别的计量、限流和成本控制,帮助精细化管理 AI 调用开销。
- 基于 Envoy 高性能核心,同时兼容 Kubernetes Ingress 标准,迁移成本低。
不足之处
- 项目较新,生态和文档相比成熟网关(如 Kong)仍有差距。
- 部分高级 AI 特性(如 Prompt 治理)依赖插件实现,核心内置能力有限。
适用场景
- 企业构建统一 AI 网关,集中管理多个 LLM 提供商的 API 密钥与流量。
- 微服务架构中,需要同时处理传统 API 和 AI 请求,且要求低延迟与高可用。
- 对 AI 调用成本敏感,需按部门/项目进行 Token 配额与计费的场景。
替代项目
Kong、APISIX、Envoy Gateway
上一篇:apisix
下一篇:agentgateway
同类项目推荐
node-replicate
开源
在 Node.js 里几行代码调用 Replicate 上的 AI 模型
A Node.js client for Replicate.
universal
开源
用可定制数字类型,在精度与性能间自由取舍
Large collection of number systems providing custom arithmetic for mixed-precision a···
mlinfra
开源
一条命令,在任何地方部署生产级 ML 基础设施
deploy ML Infrastructure and MLOps tooling anywhere quickly and with best practices ···
TorchStream
开源
让 PyTorch 模型像流式 API 一样边输入边输出,实时响应
A library for making PyTorch models streamable
agentplay
开源
把编码代理的会话回放成地图和时间线
Replay your coding agent sessions as a map and a timeline
entroly
开源
压缩 AI 上下文,保留证据,让每次对话可追溯。
Cut AI context cost without trusting the compressor. Every reduction is reversible, ···
caddy-defender
开源
给 Caddy 装上 AI 爬虫盾,一键拦截训练数据抓取
Caddy module to block or manipulate requests originating from AIs or cloud services ···
seekdb
开源
一个数据库搞定智能体所有数据,检索快还省心
The AI-Native Search Database. Best for agent storage, it unifies vector, text, stru···
sglang-omni
开源
让语音和多模态模型服务快如闪电,吞吐翻倍
High Performance Serving Runtime For Interactive Super Intelligence System
