Awesome-LLMOps

一站式找到大模型开发运维工具,告别选型困难

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 1289 🐛 待处理 435 👀 关注 68
GitHub ↗
GitHub 星标 ★ 5971
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,完全免费,无付费版本。

项目预览

Awesome-LLMOps 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队tensorchord
定价模式🏷️完全免费
价格说明开源项目,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议CC0-1.0
主要语言Shell
技术栈/模型ai-development-tools,awesome-list,llmops,mlops
GitHub 星标★ 5971
上线时间2022-04-15 00:00:00
代码更新2026-10-16
仓库体积1.2 MB
本站数据更新2026-11-08
维护状态较活跃
收录时间2026-08-09
浏览次数9

项目介绍

Awesome-LLMOps 是一个精选的 LLMOps 工具列表,旨在帮助开发者快速找到适合大语言模型开发运维的最佳实践工具。它系统梳理了从模型训练、微调、部署、监控到安全合规等全链路的开源项目,覆盖了 LLM 应用开发中常见的工程化痛点,如提示管理、成本优化、可观测性等。项目以分类目录的形式组织,每个工具附有简介和链接,方便开发者按需检索。作为社区驱动的资源索引,它解决了 LLMOps 领域工具分散、选型困难的问题,是开发者入门和持续跟踪 LLMOps 生态的重要参考。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 5971

技术标签

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:入门 约 5 分钟 部署方式:本地安装 6 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 可访问 GitHub 的网络环境
  • 已安装 git(用于克隆仓库)
  • 能阅读 Markdown 的编辑器或浏览器

安装与启动步骤

  1. 1克隆仓库到本地

    把仓库完整下载到本地,方便离线阅读和检索。若只想在线看,可跳过此步直接打开 GitHub 页面。

    git clone https://github.com/tensorchord/Awesome-LLMOps.git
  2. 2进入项目目录

    克隆完成后进入仓库根目录,README.md 就存放在这里。

    cd Awesome-LLMOps
  3. 3查看项目结构

    列出目录内容,确认 README.md、contributing.md 等文件位置。

    ls
  4. 4按目录定位工具

    打开 README.md,通过 Table of Contents 跳转到 Model、Serving、Security、LLMOps、Search、Code AI、Training 等分类检索工具。

  5. 5阅读贡献指南

    如需提交新工具,先阅读 contributing.md 中的贡献规范,再按格式提 PR。

  6. 6加入社区讨论

    README 顶部提供了 Discord 邀请链接,可加入社区交流或提问。

如何确认成功

本地能打开 Awesome-LLMOps/README.md,并看到完整的分类目录与工具条目即视为可用。

常见问题

Q:这个项目需要安装依赖或启动服务吗?

A:不需要。它是精选工具列表,仓库内只有 Markdown 文档,克隆后直接阅读即可,没有需要运行的代码。

Q:怎么快速找到我要的那类工具?

A:打开 README.md,使用 Table of Contents 中的锚点跳转到 Model、Serving、Training、Security 等分类,每类下有工具简介和链接。

Q:我可以向列表里补充工具吗?

A:可以。README 明确欢迎贡献,需先阅读仓库内的 contributing.md,按其中的格式要求提交 Pull Request。

Q:有官网或在线文档吗?

A:README 未提供官网,项目信息中也标注无官网,直接使用 GitHub 仓库页面和仓库内 Markdown 文件即可。

注意事项

  • 本仓库是资源索引类项目,不包含可执行代码,无需构建或部署。
  • 所有命令均来自仓库地址与通用准备动作,README 正文并未给出安装步骤。
  • 工具信息会随社区贡献持续更新,建议定期 git pull 获取最新列表。
  • 选型前建议逐个核对列表中工具自身的许可证与维护状态。

核心亮点

  • 分类清晰,覆盖 LLMOps 全生命周期,便于快速定位所需工具
  • 收录项目经过筛选,质量较高,节省开发者调研时间
  • 持续更新,紧跟 LLMOps 领域最新工具和趋势

不足之处

  • 仅提供链接和简介,缺乏工具对比和深度评测
  • 文档/社区待观察

适用场景

  • 开发者选型 LLMOps 工具时快速调研
  • 团队搭建大模型应用基础设施时参考
  • 关注 LLMOps 生态趋势,跟踪新工具

替代项目

Awesome-LLM、llm-tools、eugeneyan/applied-ml

上一篇:clearml-agent

下一篇:aiops-modules

同类项目推荐

kong 开源

统一管理 API 和 AI 服务,流量安全一把梭

The API and AI Gateway

★ 44365 2026-08-09
portkey-python-sdk 开源

一键接入多模型,让 AI 应用稳定又安全

Build reliable, secure, and production-ready AI apps easily.

★ 119 2026-08-09
arcjet-js 开源

给 AI 应用装上安全气囊,防注入、防越权、防泄露

Runtime security for AI apps and agents: prompt injection detection, tool-call autho···

★ 698 2026-08-09
ramalama 开源

像拉容器镜像一样拉取并运行AI模型,本地推理一键搞定。

RamaLama is an open-source developer tool that simplifies the local serving of AI mo···

★ 3112 2026-08-09
LMeterX 开源

一键压测大模型与 HTTP 接口,AI 自动分析性能瓶颈

A general-purpose API load testing platform that supports LLM services、A2A/MCP serv···

★ 218 2026-08-09
vektori 开源

让 AI 代理记住完整故事,而非零散事实

Memory that remembers the story not just the facts. File System Memory and Three lay···

★ 138 2026-08-09
x-stable-diffusion 开源

把 Stable Diffusion 推理压到 0.88 秒,实时出图不是梦。

Real-time inference for Stable Diffusion - 0.88s latency. Covers AITemplate, nvFuser···

★ 556 2026-08-09
SLA 开源

让视频生成模型推理更快,画质不掉线

SLA: Beyond Sparsity in Diffusion Transformers via Fine-Tunable Sparse–Linear Atten···

★ 553 2026-08-09
m365-copilot-proxy 开源

把已有 M365 Copilot 授权变成 OpenAI 兼容接口

OpenAI-compatible proxy for Microsoft 365 Copilot — use the Copilot licence you alr···

★ 169 2026-11-06