项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 211
核心亮点
- 内置访问控制和授权策略，防止智能体越权调用未批准的API
- 基于Connect RPC，通信高效且兼容现代微服务架构
- 本地部署模式，保护企业内部网络不直接暴露给AI应用
不足之处
- 项目处于早期阶段，文档和社区生态待观察
- 仅支持JavaScript，对非JS技术栈的团队集成成本较高
适用场景
- 企业内部AI助手需要安全调用CRM、ERP等系统API
- 开发平台为多个AI智能体提供统一的API访问管控层
- 在本地环境中测试AI智能体与后端服务的集成
替代项目
Kong AI Gateway、Portkey Gateway、LiteLLM
上一篇：kontext-cli
下一篇：clampdown
同类项目推荐
space
开源
一个框架管好机器学习全流程的存储，告别散乱文件
Unified storage framework for the entire machine learning lifecycle
pmetal
开源
Mac 上一条龙跑大模型：推理、微调、服务全本地
PMetal: high-performance Apple Silicon framework for local LLM inference, LoRA/QLoRA···
nuxt-llms
开源
自动为 Nuxt 站点生成 llms.txt，让 AI 读懂你的网站
Automatically generates /llms.txt markdown documentation for your Nuxt application.
tinylm
开源
在浏览器里直接跑大模型，离线也能用，接口兼容 OpenAI。
Browser based ML Inference | OpenAI compliant | Run models like DeepSeek, Llama 3.2,···
antirion
开源
一个 Rust 二进制统一管住所有大模型调用
️ The fastest open-source AI Gateway and LLM Gateway — one binary with built-in co···
llm-d-router
开源
让 K8s 推理入口按负载智能分发请求，降低排队与延迟
llm-d Router: The intelligent entry point for inference requests
litellm
开源
一个网关接入所有大模型，告别接口乱、成本散、监控难
The fastest, litest AI Gateway. Rust core with Python SDK. Call 100+ LLM APIs in Ope···
ComfyUI-Docker
开源
一条命令拉起 ComfyUI，告别环境配置地狱
Dockerfile for ComfyUI. | 容器镜像与启动脚本
feathub
开源
一套特征定义，流批通吃，实时上线不求人
FeatHub - A stream-batch unified feature store for real-time machine learning