llm-gateway

统一安全接入多个大模型，零信任管控 API 调用

llm-gateway 是一个零信任的 LLM 网关，提供 OpenAI 兼容的代理服务，支持语义路由和负载均衡，可对接 OpenAI、Anthropic、Ollama、vLLM 等任意兼容后端。它解决的是企业在大规模使用多个 LLM 服务时的统一接入、安全管控和流量调度问题。核心能力包括：基于身份（identity）的访问控制，而非简单的 API Key；虚拟 API Key 机制，可精细管理不同用户或应用的权限；通过 OpenZiti 实现端到端加密，确保数据在传输过程中的安全。项目采用 Go 语言开发，性能高、部署简单，适合作为企业内部 AI 基础设施的入口，统一管理所有模型调用，提升安全性和可观测性。