一站式找到大模型开发运维工具，告别选型困难
Awesome-LLMOps 是一个精选的 LLMOps 工具列表，旨在帮助开发者快速找到适合大语言模型开发运维的最佳实践工具。它系统梳理了从模型训练、微调、部署、监控到安全合规等全链路的开源项目，覆盖了 LLM 应用开发中常见的工程化痛点，如提示管理、成本优化、可观测性等。项目以分类目录的形式组织，每个工具附有简介和链接，方便开发者按需检索。作为社区驱动的资源索引，它解决了 LLMOps 领域工具分散、选型困难的问题，是开发者入门和持续跟踪 LLMOps 生态的重要参考。
⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。
1克隆仓库到本地
把仓库完整下载到本地，方便离线阅读和检索。若只想在线看，可跳过此步直接打开 GitHub 页面。
git clone https://github.com/tensorchord/Awesome-LLMOps.git2进入项目目录
克隆完成后进入仓库根目录，README.md 就存放在这里。
cd Awesome-LLMOps3查看项目结构
列出目录内容，确认 README.md、contributing.md 等文件位置。
ls4按目录定位工具
打开 README.md，通过 Table of Contents 跳转到 Model、Serving、Security、LLMOps、Search、Code AI、Training 等分类检索工具。
5阅读贡献指南
如需提交新工具，先阅读 contributing.md 中的贡献规范，再按格式提 PR。
6加入社区讨论
README 顶部提供了 Discord 邀请链接，可加入社区交流或提问。
本地能打开 Awesome-LLMOps/README.md，并看到完整的分类目录与工具条目即视为可用。
Q：这个项目需要安装依赖或启动服务吗？
A：不需要。它是精选工具列表，仓库内只有 Markdown 文档，克隆后直接阅读即可，没有需要运行的代码。
Q：怎么快速找到我要的那类工具？
A：打开 README.md，使用 Table of Contents 中的锚点跳转到 Model、Serving、Training、Security 等分类，每类下有工具简介和链接。
Q：我可以向列表里补充工具吗？
A：可以。README 明确欢迎贡献，需先阅读仓库内的 contributing.md，按其中的格式要求提交 Pull Request。
Q：有官网或在线文档吗？
A：README 未提供官网，项目信息中也标注无官网，直接使用 GitHub 仓库页面和仓库内 Markdown 文件即可。
Awesome-LLM、llm-tools、eugeneyan/applied-ml
Awesome-LLMOps 是基础设施领域的开源项目，由 tensorchord 开发，2022 年首次发布。
在全站 13,014 个收录项目中，它的 GitHub 星标数（5,945）位列前 8%，在基础设施分类的 1,130 个项目里位列前 12%。
近 41 天，它的 GitHub 星标从 5,914 增加到 5,945，净增 31。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-22。完全免费，无付费版本。
它主要面向的使用场景是：开发者选型LLMOps工具时快速调研。同类可对比的替代方案包括 Awesome-LLM、llm-tools、eugeneyan/applied-ml。
上一篇：clearml-agent
下一篇：aiops-modules
freebuff-proxy
开源
聚合多账号，一键接入 OpenAI 兼容 API，轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭，快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm，简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型，免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···