一站式收藏 LLMOps 工具，快速上手大模型运维
awesome-llmops 是一个专注于 LLMOps（大语言模型运维）领域的精选资源列表，旨在系统整理和展示与 LLMOps 相关的工具、框架、最佳实践和学习资料。该项目解决的是 LLMOps 生态信息分散、入门者难以快速找到合适资源的问题，通过分类整理的方式，帮助开发者、运维人员和研究人员高效了解该领域的技术栈和工具链。核心能力包括对 LLMOps 相关开源项目、平台、库的收录与分类，覆盖模型部署、监控、调优、数据管理等多个环节，为使用者提供一站式的导航和参考。作为早期项目，其内容仍在持续丰富中。
llmops-recipes、awesome-llm-apps、llmops-evaluation
awesome-llmops 是基础设施领域的开源项目，由 KennethanCeyer 开发，2023 年首次发布。
它收录于基础设施分类，该分类目前共有 1,130 个项目，GitHub 星标数为 56。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-08-18。完全免费，无付费版本。
它主要面向的使用场景是：入门LLMOps时快速了解生态全景。同类可对比的替代方案包括 llmops-recipes、awesome-llm-apps、llmops-evaluation。
freebuff-proxy
开源
聚合多账号，一键接入 OpenAI 兼容 API，轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭，快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm，简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型，免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···
