项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 144
核心亮点
- 完全离线运行，数据不出设备，杜绝隐私泄露
- OpenAI兼容API，现有应用无缝切换，零学习成本
- 集成多模态模型（文本/图像/语音），一个网关全搞定
不足之处
- 早期项目，功能稳定性待验证
- 文档/社区待观察
适用场景
- 隐私敏感场景（如医疗、法律）的本地AI推理
- 无网络或弱网环境下的智能助手部署
- 开发者本地测试OpenAI API兼容应用
替代项目
Ollama、LocalAI、LM Studio
上一篇：metaai-api
下一篇：mlx-serve
同类项目推荐
client
开源
用 Python 客户端轻松管理 DagsHub 上的数据和模型
DagsHub client libraries
gateway
开源
一个 API 接入 1600+ 模型，内置安全护栏，AI 应用开发提速。
A blazing fast AI Gateway with integrated guardrails. Route to 1,600+ LLMs, 50+ AI G···
vpod
开源
给 AI 代码执行加个安全壳，防跑飞防破坏
Lightweight, secure Linux sandboxes for untrusted processes. Runs in the browser and···
nexus-llm-router
开源
一个接口接入所有大模型，自动选最优，省钱又省心
Drop-in LLM router and AI gateway speaking OpenAI Chat Completions, OpenAI Responses···
llm-inference
开源
快速搭建基于开源大模型的聊天机器人，省去推理部署烦恼
Large Language Model (LLM) Inference API and Chatbot
accelerated-data-science
开源
用 Python 在 Oracle 云上跑通训练、部署与流水线
ADS is the Oracle Data Science Cloud Service's python SDK supporting, model ops (tra···
comfy2go
开源
用 Go 轻松接入 ComfyUI，快速实现图像生成服务
A Go-based API that acts as a bridge to the ComfyUI backend
amazon-eks-machine-learning-with···
开源
用 Terraform 一键在 EKS 上搭好 Kubeflow 机器学习平台
MLOps on Amazon EKS
openclaw-guardian
开源
给 OpenClaw 网关配个自动修复的看门狗，故障秒级自愈
️ Guardian watchdog for OpenClaw Gateway — auto-monitor, self-repair via doctor --···