项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 196
技术标签
核心亮点
- Rust 实现，内存安全且性能高，适合处理高并发网关流量
- 内置防篡改审计日志，每会话记录，满足企业合规需求
- 支持 MCP 和 WASM 沙箱，扩展性强且执行环境隔离
不足之处
- 早期项目，文档和社区生态待观察
- 依赖 Matrix 协议，可能增加部署复杂度
适用场景
- 企业部署多个 AI 智能体，需要统一身份认证和权限管理
- 金融、医疗等强监管行业，需审计日志和合规追踪
- 多租户 SaaS 平台，需隔离不同客户的智能体访问
替代项目
LangChain、AutoGen、CrewAI
上一篇：mcp-shark
下一篇：grps_trtllm
同类项目推荐
LLMLingua
开源
把长提示词压到1/20，推理更快更省钱
[EMNLP'23, ACL'24] To speed up LLMs' inference and enhance LLM's perceive of key inf···
genai-api
开源
几分钟在 Cloudflare Workers 上免费接入 Gemini，每天数百次请求
Supercharge your applications using Cloudflare Workers and Gemini within minutes (an···
Deepthink
开源
让大模型自动反复试错，批量搜出更优方案
Using LLMs for iteratively exploring the solution search space at scale.
privacy-filter
开源
给 LLM 请求装个隐私过滤器，毫秒级脱敏，防数据泄露
LLM privacy gateway in Go — millisecond-latency PII and secret redaction. Used in p···
SwiftLM
开源
Mac/iPhone 上跑本地大模型，OpenAI 接口直接调
⚡ Native MLX Swift LLM inference server for Apple Silicon. OpenAI-compatible API, S···
get-started
开源
把本地 Ollama 一键变成高可用云服务
Ollama Cloud is a Highly Scalable Cloud-native Stack for Ollama
grafana
开源
一个面板看遍所有监控数据，快速定位故障
The open and composable observability and data visualization platform. Visualize met···
Strata
开源
一键把大模型装进自己电脑，本地 API 即开即用
Qwen3.8-Flash-Next on any consumer hardware: one-click install for Windows / Linux. ···
M365-Copilot2API
开源
把 M365 Copilot 变成 OpenAI 接口，客户端零改动直接调
Microsoft 365 Copilot → OpenAI / Anthropic 兼容 API 网关。