项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 70
技术标签
核心亮点
- 集成多种推理后端(ComfyUI、llama.cpp 等),灵活切换模型
- 使用 Go 和 HTMX,部署简单,前端交互轻快
- 支持大语言模型 API(GPT-4、Gemini Pro),扩展性强
不足之处
- 项目处于早期,文档较少,社区生态未建立
- 功能边界尚不清晰,稳定性待验证
适用场景
- 本地部署多模型推理服务,统一管理 API
- 快速搭建图像生成工作流原型
- 研究不同模型效果对比实验
替代项目
ComfyUI、Stable Diffusion WebUI、Replicate
下一篇:hordelib
同类项目推荐
claude-code-proxy
开源
本地转接口,让 Claude Code 用上别的模型订阅
Use Claude Code with your ChatGPT, Kimi, Cursor or Grok subscription via a local Ant···
higress
开源
用 Envoy 打造 AI 原生网关,统一管理模型流量与成本。
AI Gateway | AI Native API Gateway
postgres
开源
最可靠的开源关系型数据库,搞定复杂数据场景
Mirror of the official PostgreSQL GIT repository. Note that this is just a *mirror* ···
vllm.cpp
开源
C++ 重写 vLLM,连续批处理加前缀缓存,推理吞吐更高
a community oriented 1:1, vLLM-alike (Continuous batching, paged KV) engine in C++ w···
selfhostedAI
开源
一键自托管 AI,小白也能轻松跑起图像生成
A collection of one-click self-hosted AI
GPTFree
开源
免注册免费调用 GPT/Claude/Gemini,兼容 OpenAI 接口
Free OpenAI-compatible API providing access to powerful AI models. No registration r···
tpu-inference
开源
让 vLLM 推理直接跑在 TPU 上
Moving to vllm-project/vllm-jax. TPU inference for vLLM, with unified JAX and PyTorc···
ROCm-RX6600XT
开源
让AMD显卡跑起PyTorch和TensorFlow,深度学习不再被NVIDIA垄断。
AMD ROCm Installation Guide on RX 6600 XT + TensorFlow and PyTorch
aegis-stack
开源
快速搭建生产级 FastAPI 搜索知识平台
A production-ready FastAPI platform with modular components and a built-in control p···
