基础设施

cinnamon 开源

监控机器学习数据漂移，早发现早修正，模型稳如磐石。

CinnaMon 是一个 Python 库，专注于机器学习系统中的数据漂移检测、解释与修正。它解决的是模型上线···

AVH 开源

用 Arm 虚拟硬件，免开发板跑嵌入式软件

AVH 是 Arm 官方提供的虚拟硬件（Arm Virtual Hardware）使用指南与工具集，基于 Python 和 Arm 固···

cube-studio 开源

一套平台搞定 AI 开发、训练、推理全流程，支持国产硬件。

cube-studio 是一个开源的云原生一站式 AI 平台，覆盖机器学习、深度学习和 LLMOps 全链路。它解决···

sagemaker-custom-project-templates 开源

用现成模板，快速搭建 SageMaker 标准化 MLOps 流水线

这是一个关于 AWS SageMaker AI Projects 的指南仓库，旨在帮助组织为数据科学家和 MLOps 工程师标···

dstoolkit-mlops-base 开源

用 Azure 一键搭建模型上线流水线，省去手工部署烦恼

这是一个面向机器学习团队的 MLOps 基础工具包，旨在帮助团队利用 Azure 云服务加速模型从开发到生···

skypilot 开源

各家云比价自动挑最划算的，算力随叫随到

面向前沿 AI 团队的计算平台，将分散在不同云厂商的 GPU 算力整合成一台“AI 超级计算机”。它支持···

mlops-e2e 开源

用AWS原生服务搭建自动化ML流水线，一键部署模型

这是一个基于AWS的MLOps端到端示例项目，使用TypeScript编写，通过Amazon SageMaker Pipeline、AWS···

domino-research 开源

拿来即用的企业级数据科学实验管理工具箱

domino-research 是 Domino 数据实验室研发团队开源的项目集合仓库，主要托管该团队在数据科学、机···

Yatai 开源

在 Kubernetes 上轻松规模化部署和运维机器学习模型

Yatai 是一个基于 Kubernetes 的模型部署平台，旨在帮助机器学习团队将训练好的模型规模化地部署到···

nbox 开源

用命令行搞定 NimbleBox 上的机器学习部署与运维

nbox 是 NimbleBox 平台的官方 Python 包，旨在将平台的所有 API 封装为命令行工具和可复用的 Pyth···

mlops-with-vertex-ai 开源

在 Google Cloud 上快速搭建完整 MLOps 流水线

这是一个端到端的 MLOps 示例项目，展示如何在 Google Cloud 上使用 TensorFlow、TFX 和 Vertex AI···

Uptime Kuma 开源

自托管开源监控工具，界面友好

Uptime Kuma 是开源自托管监控工具，监控网站、服务、端口与证书状态，支持 90 多种通知渠道。

testkube 开源

在 Kubernetes 上统一运行和管理所有测试，让 AI 工程交付更稳更快。

Testkube 是一个开源的 Kubernetes 原生测试平台，专为 AI 驱动的工程团队设计。它解决了在云原生和···

website 开源

看官方文档，快速上手 KServe 模型部署

KServe 是一个 Kubernetes 原生的模型推理平台，用于标准化服务器模型的部署。该项目是 KServe 的官···

k8ssandra-operator 开源

在 K8s 上像管理应用一样管理 Cassandra 集群，自动部署与运维

k8ssandra-operator 是 K8ssandra 项目的 Kubernetes 运维组件，用于在 Kubernetes 集群中自动化部···

mlops.toys 开源

一站式逛遍 MLOps 工具，快速选型不迷路

mlops.toys 是一个精心整理的 MLOps 项目、工具和资源清单，以 Vue 构建的网站形式呈现。它旨在解决···

mlplatform-workshop 开源

用示例代码快速搭建机器学习平台骨架

这是一个用于构建基础机器学习平台（ML Platform）的示例代码仓库，基于 Pulumi、FastAPI、DVC、ML···

nvidia_gpu_exporter 开源

一条命令把 NVIDIA GPU 监控接入 Prometheus，实时掌握显卡状态。

nvidia_gpu_exporter 是一个用 Go 编写的 Prometheus 导出器，通过调用 nvidia-smi 二进制文件采集···

inferoxy 开源

一键部署 Docker 化 CV 模型，快速上线推理服务

inferoxy 是一个用于快速部署和使用 Docker 化计算机视觉模型的服务。它解决了 AI 模型从训练到生产···

krsh 开源

声明式配置，一键部署和管理 KubeFlow 环境

krsh 是一个声明式的 KubeFlow 管理工具，旨在简化 KubeFlow 的部署、配置和生命周期管理。它通过声···

liveblocks 开源

快速为应用和智能体添加实时协作能力，无需自研后端。

Liveblocks 是一个为多人在线应用和 AI 智能体提供实时协作基础设施的开源平台。它解决了开发者在构···

dante-cloud 开源

一套代码灵活切换微服务与单体，安全合规的云原生基座。

Dante Cloud 是一个基于 Java 的微服务云原生基座，是国内首个支持阻塞式（Servlet）和响应式（Web···

chassis 开源

把模型一键打包成容器，随处运行

Chassis 是一个将机器学习模型打包成便携式容器镜像的工具，旨在解决模型部署和迁移的复杂性。它支···

data-science-best-practices 开源

把数据科学项目从原型打磨成生产级系统

这是一个面向数据科学家和机器学习工程师的最佳实践指南仓库，旨在帮助团队将数据科学用例从原型开···