项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 64
核心亮点
- 提供 OpenAI 兼容接口，迁移成本低
- 同时支持 Ollama 文本模型和 Stable Diffusion 图像生成
- 支持 Serverless 部署，便于弹性扩展
不足之处
- 项目早期，文档和社区支持有限
- 功能相对基础，高级特性如流式输出可能缺失
适用场景
- 为内部工具提供本地大模型 API 服务
- 快速搭建 AI 应用后端，对接前端请求
- 在无 GPU 云环境通过 Serverless 调用远程模型
替代项目
Ollama 官方 API、LocalAI、FastAPI 自建接口
上一篇：Eloquent
同类项目推荐
mav
开源
实时看模型训练过程，快速定位训练问题
Model Activity Visualiser
awesome-ai-api-proxy
开源
一张清单，搞定所有AI模型中转站选型
One key. Every model. Anywhere. — A curated map of AI API relay stations & LLM gate···
AI-Worker-Proxy
开源
一键部署，统一接入多模型，自动故障转移
OpenAI-compatible AI proxy: Anthropic Claude, Google Gemini, GPT-6, Cloudflare AI. F···
markify
开源
把各种文件秒变 Markdown，让 RAG 和 LLM 更懂你
Convert files into markdown to help RAG or LLM understand, based on markitdown and M···
graphsignal
开源
把 GPU 内核耗时对应回 Python 代码，快速找出推理瓶颈
GPU Profiler for AI agents
TensorFold
开源
Mac 本地跑大模型，快而不糊，接口直接兼容 OpenAI
LLM Inference Engine for Metal, CUDA and Vulkan.
StringZilla
开源
一行代码，让字符串处理快上百倍，跨语言通用。
Up to 100x faster strings for C, C++, CUDA, Python, Rust, Swift, JS, & Go, leveragin···
awesome-ai-memory
开源
一张清单，看懂AI记忆方案怎么选
A list of AI memory projects（ AI长期记忆的开源和商业项目列表）
free-ai
开源
免费获取 OpenAI 兼容 API，50+ 模型免费用
FreeTheAI: free AI API and open model marketplace. One OpenAI-compatible endpoint at···