项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 50
核心亮点
- 聚焦生产环境，直接解决模型上线部署的选型痛点
- 同时收录开源与商业平台，对比视角全面
- 以清单形式呈现，信息结构清晰，便于快速浏览
不足之处
- 项目处于早期，星标少，内容覆盖度和更新频率待观察
- 文档/社区待观察
适用场景
- 技术团队评估模型服务基础设施时作为参考
- 架构师对比自建与云服务方案时快速获取候选列表
- 开发者入门生产级模型部署时了解生态全景
替代项目
awesome-production-machine-learning、model-serving-engines、MLOps-tools
下一篇：domino-research
同类项目推荐
mlops-project
开源
一键跑通ML全流程，从训练到部署不再手忙脚乱
An end-to-end machine learning (mlops) project
llama3.java
开源
纯 Java 跑 Llama 3，不装 Python 也能本地推理
Llama 3+ inference in pure Java
comfyui-api
开源
把 ComfyUI 封装成高并发 API，同步异步都能拿结果
A simple API server to make ComfyUI easy to scale horizontally. Get outputs directly···
rust-mlops-template
开源
用 Rust 搭建高性能 MLOps 基础设施，告别 Python 性能瓶颈
A work in progress to build out solutions in Rust for MLOPs
Windows-Copilot-API
开源
把 Windows Copilot 变成 OpenAI 兼容接口，开箱即调
Reverse engineered Windows Copilot into an OpenAI-compatible API. Access GPT-4 and G···
DeepInfer
开源
让 DeepSeek 大模型多卡高吞吐跑起来
DeepInfer: High-performance, large-scale inference framework for DeepSeek models
cicd-templates
开源
用代码一键管理 Databricks 部署，告别手动配置
Manage your Databricks deployments and CI with code.
InfiniTensor
开源
让大模型在多种 GPU 上快速跑起来并方便做实验
InfiniTensor is a high-performance inference engine tailored for GPUs and AI acceler···
mloda
开源
插件化数据访问，让 AI 应用轻松获取可追溯的数据上下文。
mloda.ai - Open Data Access for AI and ML. Plugin-based. Traceable. Framework-agnost···