axonhub

一个网关,用任意 SDK 稳定调用 100+ 大模型,自动容灾省钱

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 763 🐛 待处理 82 👀 关注 13
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 5443
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,可自行部署,完全免费。

项目预览

axonhub 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队looplj
定价模式🏷️完全免费
价格说明开源项目,可自行部署,完全免费。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Go
技术栈/模型agent,agents,ai,anthropic,anthropic-api,api-gateway,claude,claude-code,codex,cost-management,deepseek,gemini-api,llm,openai,opencode
GitHub 星标★ 5443
上线时间2025-09-09 00:00:00
代码更新2026-11-09
仓库体积60.6 MB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-09
浏览次数6

项目介绍

AxonHub 是一个开源的 AI 网关,旨在统一管理对 100 多个大语言模型(LLM)的访问。它解决了企业在使用多个 AI 提供商时面临的 SDK 碎片化、API 不一致、成本失控和故障处理复杂等问题。核心能力包括:兼容任意 SDK 的标准化接口,内置故障转移和负载均衡机制,确保服务高可用;提供细粒度的成本控制和配额管理,帮助团队预算透明;支持端到端的请求追踪,便于调试和性能监控。项目采用 Go 语言开发,性能优异,部署轻量,适合作为企业内部 AI 基础设施的流量入口。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 5443

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:入门 约 10 分钟 部署方式:本地安装 6 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 一个能读取并执行文档的 AI Agent(用于按 deploy-axonhub 技能文档部署)
  • 可访问 GitHub,获取 https://github.com/looplj/axonhub-skills/blob/main/deploy-axonhub/
  • 部署完成后可用浏览器访问 AxonHub 地址,完成初始化向导
  • 客户端需安装 openai Python SDK(用于发起第一个请求)
  • 本地部署默认网关地址为 http://localhost:8090/v1

安装与启动步骤

  1. 1按技能文档部署

    README 指引让 Agent 读取 deploy-axonhub 的 SKILL.md 并遵循其中步骤部署 AxonHub,README 本身未给出安装命令

  2. 2打开访问地址

    部署完成后,打开 Agent 返回的 AxonHub 访问地址,进入系统界面

  3. 3初始化系统

    按照初始化向导创建管理员账号,完成系统初始化

  4. 4添加渠道

    在 Channels(渠道)中添加 AI 提供商及其 API Key,配置支持的模型,测试连接后启用渠道

  5. 5创建 API Key

    在 API Keys(API 密钥)中创建供客户端使用的 AxonHub API Key,并妥善保存

  6. 6发起第一个请求

    用 OpenAI SDK 把 base_url 指向 AxonHub、api_key 换成刚创建的密钥,即可调用模型

    from openai import OpenAI
    
    client = OpenAI(
        base_url="http://localhost:8090/v1",
        api_key="your-axonhub-api-key"
    )
    
    response = client.chat.completions.create(
        model="gpt-4o",
        messages=[{"role": "user", "content": "Hello, AxonHub!"}]
    )
    
    print(response.choices[0].message.content)

关键配置

配置项必填说明示例
base_url是AxonHub 的 OpenAI 兼容接口地址http://localhost:8090/v1
api_key是在 AxonHub 的 API Keys 页面创建的网关密钥your-axonhub-api-key
model是请求的模型名,需与渠道中已启用的模型对应gpt-4o

如何确认成功

运行示例脚本后能打印出模型回复内容(response.choices[0].message.content 有输出)即表示调用成功。

常见问题

Q:AxonHub 怎么部署?

A:README 未给出手工安装命令,只说明让 AI Agent 读取并遵循 deploy-axonhub 的 SKILL.md 来部署,请按该技能文档执行。

Q:部署完成后怎么开始使用?

A:打开 Agent 返回的 AxonHub 地址,按初始化向导创建管理员账号,再依次添加渠道和 API Key。

Q:请求时报模型不可用怎么办?

A:需要在 Channels 中添加对应的 AI 提供商与 API Key,配置支持的模型并测试连接、启用渠道后再调用。

Q:客户端代码需要大改吗?

A:不需要,AxonHub 提供兼容任意 SDK 的标准化接口,只需把 base_url 和 api_key 改成 AxonHub 的值。

注意事项

  • README 未提供 Docker、源码编译等具体安装命令,部署方式以 deploy-axonhub 技能文档为准。
  • 示例中的 http://localhost:8090 是本地部署地址,实际访问地址以 Agent 返回为准。
  • 示例密钥 your-axonhub-api-key 为占位值,务必替换为在 AxonHub 中实际创建的 API Key。
  • 更多配置和 API 示例请查看仓库内 docs/zh/index.md 文档索引。

核心亮点

  • 兼容任意 SDK,无需改造现有代码即可接入多种 LLM,迁移成本极低
  • 内置故障转移和负载均衡,自动切换可用模型,显著提升服务稳定性
  • 提供端到端追踪和成本控制面板,让 API 调用和花费一目了然

不足之处

  • 项目较新,文档和社区生态尚待完善
  • 高级功能如自定义策略可能需要学习特定配置语言

适用场景

  • 企业内部统一管理多个 LLM API 密钥和调用配额
  • 构建高可用的 AI 应用,需要自动容灾和负载均衡
  • 需要精细化追踪 AI 调用链路和成本归因的团队

替代项目

LiteLLM、OpenRouter、Kong AI Gateway

上一篇:text-embeddings-inference

下一篇:agentos

同类项目推荐

litellm-rs 开源

用 Rust 实现的高性能 AI 网关,一行代码切换 100+ 大模型

Self-hosted Rust LLM gateway with OpenAI-compatible APIs, load balancing, failover, ···

★ 123 2026-08-09
awesome-ml-serving 开源

一张清单,搞定生产级模型服务选型

A curated list of awesome open source and commercial platforms for serving models in···

★ 49 2026-08-09
subnet-2 开源

给去中心化 AI 推理加上可验证证明

Verifiable inference on Bittensor

★ 2463 2026-11-08
generative-ai-sagemaker-cdk-demo 开源

用CDK一键部署SageMaker上的生成式AI模型,省去手动配置。

Deploy Generative AI models from Amazon SageMaker JumpStart using AWS CDK

★ 74 2026-08-09
paritok-4b-v1 开源

给编码问答先瘦身,速度翻倍还无损

Non-destructive compression gateway for AI coding agents. Cuts token bills 25% on tu···

★ 1444 2026-08-09
agent-console 开源

看清每轮 AI 编码花了多少 token 和钱

Local-first observability for AI coding agents. Every Claude Code and Codex session'···

★ 803 2026-10-02
ChatGPT-Mirror 开源

一键部署,秒开个人 ChatGPT 镜像站

一键部署个人的 ChatGPT 镜像站

★ 1408 2026-08-09
videodb-python 开源

几行 Python 把视频变成可搜索、可剪辑的数据库

VideoDB Python SDK

★ 118 2026-10-15
chroma 开源

给 AI 应用装一个超快的向量搜索引擎

Search infrastructure for AI

★ 29657 2026-08-09