ML-Model-CI

一键将训练好的模型自动优化并部署为高性能推理服务

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 基础设施 🍴 复刻 34 🐛 待处理 38 👀 关注 16
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 198
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目，Apache-2.0 许可证，可自由使用和部署，无付费版本。

项目预览

ML-Model-CI 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类基础设施
开发团队cap-ntu
官网地址https://mlmodelci.com
GitHubhttps://github.com/cap-ntu/ML-Model-CI
定价模式🏷️完全免费
价格说明开源项目，Apache-2.0 许可证，可自由使用和部署，无付费版本。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型continuous-integration,convert-models,deep-learning,dispatcher,inference,mlops,onnx,profiler,pytorch,serving,tensorflow-serving,tensorrt,tensorrt-inference-server
GitHub 星标★ 198
上线时间2020-04-22 00:00:00
代码更新2023-03-06
仓库体积5.5 MB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数6

项目介绍

MLModelCI 是一个面向机器学习服务的 MLOps 平台，旨在打通模型训练与线上部署之间的断层。它提供模型管理、格式转换、性能剖析和自动部署等一站式能力，支持将训练好的模型自动优化并部署为高性能的推理服务。核心功能包括：模型注册与版本管理，支持多种主流框架（如 TensorFlow、PyTorch）的模型导入；自动模型转换，将模型编译为 TensorRT、ONNX 等优化格式以提升推理效率；性能剖析，自动评估模型在不同硬件和批处理大小下的延迟与吞吐量；以及一键部署，将模型封装为 RESTful API 或 gRPC 服务，支持 Kubernetes 集群扩展。该项目由微软开源，适用于需要快速将实验模型推向生产的团队，减少手工配置和优化的工作量。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 198

核心亮点

  • 自动模型转换与优化，支持 TensorRT、ONNX 等，显著提升推理性能
  • 内置性能剖析工具，可自动评估模型在多种硬件配置下的表现
  • 与 Kubernetes 集成，支持弹性部署和自动扩缩容

不足之处

  • 项目处于早期阶段，文档和社区支持尚不完善
  • 对新兴框架（如 PyTorch 新版本）的兼容性可能滞后

适用场景

  • 企业将训练好的模型快速部署为线上推理服务
  • 需要对比不同优化后端（如 TensorRT vs ONNX）的性能差异
  • 在 Kubernetes 集群中管理多版本模型的灰度发布与扩缩容

替代项目

MLflow、Kubeflow、Seldon Core

上一篇：serving-pytorch-models

下一篇：MLOps.NET

同类项目推荐

edit-anything-app 开源

用无服务器+Stable Diffusion快速搭建AI图像编辑应用

The source of the demo app for fal-serverless + Next.js

★ 123 2026-08-09
whitebox 开源

在K8s和边缘设备上，一站式监控你的ML模型健康

[Not Actively Maintained] Whitebox is an open source E2E ML monitoring platform with···

★ 179 2026-08-09
edgee 开源

一条命令接入 Edgee 网关，让所有 AI 编程助手省钱省心。

Official Edgee CLI to interract with Edgee's Agent Gateway. Route Claude Code, Codex···

★ 143 2026-08-09
gemini-web-to-api 开源

把 Gemini 网页版变成标准 API，一键接入现有 AI 应用

✨Reverse-engineered API for Gemini web app. It can be used as a genuine API key fro···

★ 642 2026-08-09
zerolan-core 开源

一个框架集成本地多模态 AI 模型，开箱即用

ZerolanCore integrates many open-source, locally deployable AI models, and aims to i···

★ 122 2026-08-09
unofficial-claude-api 开源

免官方API，用Python轻松调用Claude，支持文件上传。

Unofficial Claude API supporting direct HTTP chat creation/deletion/retrieval, messa···

★ 205 2026-08-09
noronha 开源

用声明式管道搞定 ML 数据流程，快速上线模型

DataOps framework for Machine Learning projects.

★ 61 2026-08-09
claude-token-optimizer 开源

压缩提示词，立省 Claude API 费用

Cut the tokens Claude Code loads at session start. CLI that sets up a small CLAUDE.m···

★ 645 2026-08-09
TiktokenSharp 开源

C# 项目轻松算 Token，精准控成本

Token calculation for OpenAI models, using `o200k_base` `cl100k_base` `p50k_base` ···

★ 128 2026-08-09