axonhub

一个网关,用任意 SDK 稳定调用 100+ 大模型,自动容灾省钱

AxonHub 是一个开源的 AI 网关,旨在统一管理对 100 多个大语言模型(LLM)的访问。它解决了企业在使用多个 AI 提供商时面临的 SDK 碎片化、API 不一致、成本失控和故障处理复杂等问题。核心能力包括:兼容任意 SDK 的标准化接口,内置故障转移和负载均衡机制,确保服务高可用;提供细粒度的成本控制和配额管理,帮助团队预算透明;支持端到端的请求追踪,便于调试和性能监控。项目采用 Go 语言开发,性能优异,部署轻量,适合作为企业内部 AI 基础设施的流量入口。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 5281
维护状态 活跃
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队looplj
所属国家
定价模式free
价格说明开源项目,可自行部署,完全免费。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Go
技术栈/模型agent,agents,ai,anthropic,anthropic-api,api-gateway,claude,claude-code,codex,cost-management,deepseek,gemini-api,llm,openai,opencode
GitHub 星标★ 5281
30天Star增速
HF 下载量
上线时间2025-09-09 00:00:00
最近更新2026-09-22 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数5

使用教程

难度:入门 约 10 分钟 部署方式:本地安装 6 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 一个能读取并执行文档的 AI Agent(用于按 deploy-axonhub 技能文档部署)
  • 可访问 GitHub,获取 https://github.com/looplj/axonhub-skills/blob/main/deploy-axonhub/
  • 部署完成后可用浏览器访问 AxonHub 地址,完成初始化向导
  • 客户端需安装 openai Python SDK(用于发起第一个请求)
  • 本地部署默认网关地址为 http://localhost:8090/v1

安装与启动步骤

  1. 1按技能文档部署

    README 指引让 Agent 读取 deploy-axonhub 的 SKILL.md 并遵循其中步骤部署 AxonHub,README 本身未给出安装命令

  2. 2打开访问地址

    部署完成后,打开 Agent 返回的 AxonHub 访问地址,进入系统界面

  3. 3初始化系统

    按照初始化向导创建管理员账号,完成系统初始化

  4. 4添加渠道

    在 Channels(渠道)中添加 AI 提供商及其 API Key,配置支持的模型,测试连接后启用渠道

  5. 5创建 API Key

    在 API Keys(API 密钥)中创建供客户端使用的 AxonHub API Key,并妥善保存

  6. 6发起第一个请求

    用 OpenAI SDK 把 base_url 指向 AxonHub、api_key 换成刚创建的密钥,即可调用模型

    from openai import OpenAI
    
    client = OpenAI(
        base_url="http://localhost:8090/v1",
        api_key="your-axonhub-api-key"
    )
    
    response = client.chat.completions.create(
        model="gpt-4o",
        messages=[{"role": "user", "content": "Hello, AxonHub!"}]
    )
    
    print(response.choices[0].message.content)

关键配置

配置项必填说明示例
base_url是AxonHub 的 OpenAI 兼容接口地址http://localhost:8090/v1
api_key是在 AxonHub 的 API Keys 页面创建的网关密钥your-axonhub-api-key
model是请求的模型名,需与渠道中已启用的模型对应gpt-4o

如何确认成功

运行示例脚本后能打印出模型回复内容(response.choices[0].message.content 有输出)即表示调用成功。

常见问题

Q:AxonHub 怎么部署?

A:README 未给出手工安装命令,只说明让 AI Agent 读取并遵循 deploy-axonhub 的 SKILL.md 来部署,请按该技能文档执行。

Q:部署完成后怎么开始使用?

A:打开 Agent 返回的 AxonHub 地址,按初始化向导创建管理员账号,再依次添加渠道和 API Key。

Q:请求时报模型不可用怎么办?

A:需要在 Channels 中添加对应的 AI 提供商与 API Key,配置支持的模型并测试连接、启用渠道后再调用。

Q:客户端代码需要大改吗?

A:不需要,AxonHub 提供兼容任意 SDK 的标准化接口,只需把 base_url 和 api_key 改成 AxonHub 的值。

注意事项

  • README 未提供 Docker、源码编译等具体安装命令,部署方式以 deploy-axonhub 技能文档为准。
  • 示例中的 http://localhost:8090 是本地部署地址,实际访问地址以 Agent 返回为准。
  • 示例密钥 your-axonhub-api-key 为占位值,务必替换为在 AxonHub 中实际创建的 API Key。
  • 更多配置和 API 示例请查看仓库内 docs/zh/index.md 文档索引。

核心亮点

  • 兼容任意 SDK,无需改造现有代码即可接入多种 LLM,迁移成本极低
  • 内置故障转移和负载均衡,自动切换可用模型,显著提升服务稳定性
  • 提供端到端追踪和成本控制面板,让 API 调用和花费一目了然

不足之处

  • 项目较新,文档和社区生态尚待完善
  • 高级功能如自定义策略可能需要学习特定配置语言

适用场景

  • 企业内部统一管理多个 LLM API 密钥和调用配额
  • 构建高可用的 AI 应用,需要自动容灾和负载均衡
  • 需要精细化追踪 AI 调用链路和成本归因的团队

替代项目

LiteLLM、OpenRouter、Kong AI Gateway

项目介绍

axonhub 是基础设施领域的开源项目,由 looplj 开发,2025 年首次发布。

在全站 13,090 个收录项目中,它的 GitHub 星标数(5,281)位列前 9%,在基础设施分类的 1,132 个项目里位列前 13%。

近 41 天,它的 GitHub 星标从 4,958 增加到 5,281,净增 323。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-22。可自行部署,完全免费。

它主要面向的使用场景是:企业内部统一管理多个LLMAPI密钥和调用配额。同类可对比的替代方案包括 LiteLLM、OpenRouter、Kong AI Gateway。

上一篇:text-embeddings-inference

下一篇:agentos

同类项目推荐

freebuff-proxy 开源

聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。

Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···

★ 213 2026-08-20
microduck 开源

用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。

A Tiny biped duck robot

★ 8684 2026-09-10
soperator 开源

用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。

Run Slurm in Kubernetes

★ 439 2026-08-10
ollama 开源

一条命令本地跑起大模型,免费、私密、不卡顿

Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···

★ 181484 2026-08-09