项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-11-21 · 当前星标 ★ 829
核心亮点
- 用 Go 库直接嵌入,模型目录可作为编译期依赖,无需额外服务
- 统一了不同厂商的模型字段口径,便于做路由、成本估算和能力筛选
- 数据以声明式方式维护,厂商上新模型时可集中更新而非散落各处
不足之处
- 模型与定价数据需人工跟进厂商变更,存在滞后风险
- 生态较早期,非 Go 技术栈的接入方式与文档相对有限
适用场景
- 多模型网关按价格和上下文长度自动选择推理后端
- AI 应用后台展示可选模型列表与计费预估
- 模型选型工具按能力标签筛选可用供应商
替代项目
models.dev、LiteLLM、OpenRouter
上一篇:sarathi-serve
下一篇:hipfire
同类项目推荐
litellm-relay
开源
一步接入所有 AI 工具,统一走你的 LiteLLM 网关
Onboard AI tools in one step, and catch the rest. Relay sets up Claude Desktop, Clau···
TurboDiffusion
开源
出片快上百倍,画质依然在线
TurboDiffusion: 100–200× Acceleration for Video Diffusion Models
omlx
开源
Mac 菜单栏一键跑大模型,SSD 缓存突破内存限制,连续批处理提速
LLM inference server with continuous batching & SSD caching for Apple Silicon — man···
kubernetes-mlops
开源
用Python+Docker+K8s,把模型部署流水线跑起来
MLOps tutorial using Python, Docker and Kubernetes.
RWKV-Runner
开源
一键跑起 RWKV 模型,8MB 轻量工具,兼容 OpenAI API
A RWKV management and startup tool, full automation, only 8MB. And provides an inter···
graphsignal
开源
把 GPU 内核耗时对应回 Python 代码,快速找出推理瓶颈
GPU Profiler for AI agents
modal-examples
开源
一键跑通云端 GPU 任务,从示例到生产部署
Examples of programs built using Modal
llm-d-router
开源
让 K8s 推理入口按负载智能分发请求,降低排队与延迟
llm-d Router: The intelligent entry point for inference requests
fuseml
开源
把散落的 AI 工具串成自动化流水线,减少集成折腾
FuseML aims to provide an MLOps framework as the medium dynamically integrating toge···
