基础设施

clearml-serving 开源

一键编排多模型推理服务，自动伸缩省运维

ClearML Serving 是 ClearML 生态中的模型服务编排与仓库解决方案，用于将训练好的机器学习模型部署···

mlops-guide.github.io 开源

跟着教程，用开源工具搭建完整MLOps流水线

这是一个端到端的MLOps指南与教程网站，旨在帮助数据科学家和ML工程师将机器学习模型从实验阶段推向···

azure-enterprise-scale-ml 开源

在Azure上快速搭建合规的企业级AI平台，省心又安全

azure-enterprise-scale-ml（简称esml）是微软开源的企业级Azure机器学习平台参考架构与落地工具集···

noronha 开源

用声明式管道搞定 ML 数据流程，快速上线模型

noronha 是一个面向机器学习项目的 DataOps 框架，旨在将数据工程、模型训练和部署流程标准化。它解···

mosec 开源

动态批处理+流水线，榨干GPU，提升模型服务吞吐量

mosec 是一个高性能的机器学习模型服务框架，专注于解决模型部署中的吞吐量和资源利用率问题。它通···

OpenMLDB 开源

用SQL统一训练与推理特征，告别线上线下不一致

OpenMLDB是一个开源的机器学习数据库，旨在解决ML特征计算中训练与推理不一致的痛点。它提供统一的···

fuseml 开源

把散落的 AI 工具串成自动化流水线，减少集成折腾

FuseML 是一个开源的 MLOps 框架，旨在作为动态集成层，将用户选择的 AI/ML 工具（如训练框架、模型···

Python-MLOps-Cookbook 开源

一套代码，轻松部署到三大云，快速上手 MLOps 实践。

Python-MLOps-Cookbook 是一个面向 MLOps 的示例项目集合，主要展示如何将 Flask 应用容器化，并部···

examples 开源

上手 Pinecone 向量数据库，边看边练快速落地

Pinecone 官方提供的 Jupyter Notebook 示例集合，帮助开发者快速上手 Pinecone 向量数据库。它通过···

mltrace 开源

轻量追踪 ML 管道血缘，实验来源一目了然

mltrace 是一个面向机器学习管道的粗粒度血缘追踪工具。它解决的是 ML 实验中数据与模型来源难以追···

Bailo 开源

一站式管理 ML 模型全生命周期，让模型资产安全共享、合规可溯。

Bailo 是一个用于管理机器学习全生命周期的开源平台，旨在解决模型从开发到部署过程中面临的规模化···

budgetml 开源

10 行代码搞定低预算 ML 推理服务，省钱省心

budgetml 是一个面向预算有限场景的机器学习推理服务部署工具，旨在让开发者用不到 10 行代码就能将···

evidently 开源

一站式监控 ML 和 LLM，100+ 指标防模型退化

Evidently 是一个开源的机器学习和大型语言模型可观测性框架，用于评估、测试和监控任何 AI 驱动的···

bodywork-core 开源

用声明式配置，在 Kubernetes 上自动跑通 ML 流水线和模型上线。

bodywork-core 是一个基于 Kubernetes 的机器学习流水线编排与模型部署工具。它旨在解决 ML 工程中···

serving-pytorch-models 开源

用 TorchServe 把 PyTorch 模型快速变成线上 API

serving-pytorch-models 是一个面向 PyTorch 模型生产部署的教程型开源项目，主要展示如何使用 Tor···

casdoor 开源

为 AI Agent 和 MCP 提供一站式身份认证与授权网关

Casdoor 是一个开源的、以 Agent 为先的身份与访问管理（IAM）平台，同时充当 LLM MCP 和 Agent 网···

featureform 开源

把已有数据库变成特征存储，无需迁移，快速上线ML特征。

Featureform 是一个虚拟特征存储（Virtual Feature Store）系统，它不重新搭建存储，而是将你已有的···

mlops-workload-orchestrator 开源

在AWS上标准化编排ML管道，让模型上线更规范高效

这是一个用于AWS云环境的MLOps工作负载编排框架，旨在简化和规范机器学习模型生产化的架构实践。它···

merlin 开源

在 Kubernetes 上轻松管理、部署和上线 ML 模型，省心省力。

Merlin 是一个面向 Kubernetes 的机器学习模型管理、部署和服务平台，旨在简化 ML 模型从训练到生产···

memgraph 开源

用内存图数据库给 AI 装上实时记忆，加速智能体响应。

Memgraph 是一个高性能的开源内存图数据库，专为实时图分析和 AI 场景设计，尤其适用于 GraphRAG、···

modelstore 开源

一行代码保存模型版本，随时回溯和分享

modelstore 是一个 Python 库，用于机器学习模型的版本管理、导出和保存。它解决了模型在训练后难以···

terraform-provider-iterative 开源

用 Terraform 管 ML 云资源，自动救回竞价实例，训练完自动关停省钱。

terraform-provider-iterative 是一个 Terraform 插件，专为机器学习工作负载设计，用于在 AWS、GC···

whylogs-java 开源

用 Java 给 ML 数据管道做实时体检，早发现数据漂移

whylogs-java 是 whylogs 的 Java 实现，用于对机器学习数据管道进行端到端的画像（profiling）和监···

whylogs 开源

记录数据日志，实时监控模型质量与漂移

whylogs 是一个开源的数据日志库，专为机器学习模型和数据管道设计。它通过轻量级的日志记录，持续···