ml_in_production

看多种ML模型部署方式,选型不踩坑

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 22 👀 关注 1
GitHub ↗
GitHub 星标 ★ 61
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,无在线服务,需自行部署,完全免费。

项目预览

ml_in_production 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队tuvovan
定价模式🏷️完全免费
价格说明开源项目,无在线服务,需自行部署,完全免费。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Python
技术栈/模型deep-learning,docker,fastapi,machine-learning,mlops,nginx,rest-api,tfserving,uwsgi-nginx-docker
GitHub 星标★ 61
上线时间2021-09-22 00:00:00
代码更新2021-09-22
仓库体积91.6 MB
本站数据更新2026-11-08
维护状态低维护
收录时间2026-08-09
浏览次数8

项目介绍

这是一个机器学习模型生产化部署的演示集合,旨在展示将训练好的模型部署到生产环境的多种方法。项目解决了ML工程师在模型上线时面临的工程化难题,如API服务搭建、批处理推理、流式处理等。核心能力包括提供不同部署方式的代码示例,覆盖从简单的Flask API到更复杂的Kubernetes或Serverless架构,帮助开发者理解并选择适合自身场景的部署方案。项目处于早期阶段,代码结构清晰,适合作为学习参考。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 61

核心亮点

  • 覆盖多种部署方法,对比学习效率高
  • 代码示例直接可用,降低上手门槛
  • 聚焦生产环境,实用性强于纯理论

不足之处

  • 项目处于早期,示例覆盖场景有限
  • 文档/社区待观察

适用场景

  • 学习ML模型部署的多种技术选型
  • 快速搭建模型API服务原型
  • 对比批处理与实时推理的工程实现

替代项目

MLflow、BentoML、Seldon Core

上一篇:whylogs-java

下一篇:inferoxy

同类项目推荐

evadb 开源

用 SQL 方式调用 AI 模型,快速构建智能数据应用

Database system for AI-powered apps

★ 2674 2026-08-09
ml_in_production 开源

看多种ML模型部署方式,选型不踩坑

A set of demo of deploying a Machine Learning Model in production using various meth···

★ 61 2026-08-09
memobase 开源

给 AI 聊天机器人装上长期记忆,让对话更懂你

User Profile-Based Long-Term Memory for AI Chatbot Applications.

★ 2952 2026-08-09
codex-openai-wrapper 开源

把 Codex 包装成 OpenAI 接口,一行配置无缝接入现有工具

Wrap OpenAI's Codex to an OpenAI compatible endpoint using Cloudflare Workers

★ 84 2026-08-09
hazmat 开源

给 AI 代理套上安全笼子,防破坏防泄露,还能一键回滚

Containment for AI agents - user isolation, sandboxed execution, network controls, b···

★ 179 2026-08-09
paas-data-ingestion 开源

用Pulumi+Lambda+Snowflake搭建可重放的数据管道,告别数据不一致

Ingesting data with Pulumi, AWS lambdas and Snowflake in a scalable, fully replayabl···

★ 70 2026-08-09
AIStudio2API 开源

把 AI Studio 变成 OpenAI API,一行代码切换 Gemini 模型

将AI Studio Playground和Build反代成API | AI Studio to OpenAI, Anthropic & Gemini Com···

★ 783 2026-08-09
datastoria 开源

AI 驱动 ClickHouse 诊断与查询优化,可视化一步到位

AI-native ClickHouse console for your cluster diagnostics and query generation, opti···

★ 327 2026-08-09
omegaml 开源

一站式搞定模型从训练到上线,省心省力

MLOps simplified. One-stop AI delivery platform, all the features you need.

★ 109 2026-08-09