一块GPU跑多个容器，显存限制+时间切片，利用率翻倍
ClearML Fractional GPU 是一个基础设施工具，旨在解决单个 GPU 上运行多个容器时的资源隔离问题。它通过驱动级内存限制和计算时间切片，让多个容器可以共享同一块 GPU，而不会互相干扰。该工具与 ClearML 平台集成，但也可独立使用。核心能力包括：为每个容器设置显存上限，防止显存溢出；通过时间切片分配计算资源，确保公平调度；支持 Docker 和 Kubernetes 环境，便于在现有集群中部署。它适用于需要提高 GPU 利用率、降低硬件成本的场景，尤其是在 AI 训练和推理任务中。项目处于早期阶段，但提供了实用的命令行工具和配置示例，便于快速上手。
NVIDIA MPS、Kubernetes device plugin、RunPod
clearml-fractional-gpu 是基础设施领域的开源项目，由 clearml 开发，2024 年首次发布。
它收录于基础设施分类，该分类目前共有 1,132 个项目，GitHub 星标数为 96。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-08-21。本地部署，完全免费。
它主要面向的使用场景是：多租户共享GPU集群，隔离不同团队任务。同类可对比的替代方案包括 NVIDIA MPS、Kubernetes device plugin、RunPod。
freebuff-proxy
开源
聚合多账号，一键接入 OpenAI 兼容 API，轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭，快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm，简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型，免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···
