项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 199
核心亮点
- 协议转换能力强，支持多种主流 AI 工具和 SDK，降低集成成本
- Rust 实现，性能高、内存安全，适合作为基础设施长期运行
- 自托管部署，数据可控，满足隐私和合规需求
不足之处
- 项目早期，文档和社区生态尚待完善
- 协议转换的覆盖面和稳定性需更多生产环境验证
适用场景
- 企业内部统一管理多个 AI 工具和模型 API 接入
- 开发者需要灵活切换不同模型提供商进行对比测试
- 对数据隐私要求高，需本地部署 AI 网关的场景
替代项目
LiteLLM、OpenRouter、Kong AI Gateway
上一篇：Misceo
同类项目推荐
ThinkWatch
开源
给企业 AI 接入装上安全闸门，统一管控、审计、控费
Self-hosted AI API and MCP gateway for organizations: SSO and RBAC, per-user identit···
clearml-agent
开源
一键排队运行ML任务，自动调度GPU，省心省力
ClearML Agent - MLOps/LLMOps made easy. MLOps/LLMOps scheduler & orchestration solut···
vllm-plugin-FL
开源
让 vLLM 一套代码跑多种国产芯片
A vLLM plugin built on the FlagOS unified multi-chip backend.
skills
开源
让 AI 助手秒变 Qdrant 专家，搞定向量搜索开发与运维
Agent skills for Qdrant vector search: scaling, performance optimization, search qua···
subnet-2
开源
给去中心化 AI 推理加上可验证证明
Verifiable inference on Bittensor
genai-fullstack-blueprint
开源
一套TypeScript全栈骨架，快速搭建多模态AI应用前后端。
Full-stack reference architecture for multimodal GenAI apps: Angular client plus Nod···
tokenspeed
开源
让大模型在现有硬件上跑出光速级 token 生成速度
TokenSpeed is a speed-of-light LLM inference engine.
ai-on-openshift
开源
在OpenShift上快速部署AI工作负载，参考架构即拿即用。
AI-on-OpenShift website source code
LLaMA_MPS
开源
在 Mac 上让 LLaMA 跑得更快，用上 GPU 加速推理。
Run LLaMA (and Stanford-Alpaca) inference on Apple Silicon GPUs.