Awesome-LLMOps

一站式找齐 LLMOps 工具,告别选型大海捞针

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 162 🐛 待处理 194 👀 关注 5
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 271
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,完全免费,无付费版本。

项目预览

Awesome-LLMOps 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队InftyAI
定价模式🏷️完全免费
价格说明开源项目,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型ai,ai-developer-tools,awesome,awesome-list,llm,llmops
GitHub 星标★ 271
上线时间2023-08-14 00:00:00
代码更新2026-11-08
仓库体积21.0 MB
本站数据更新2026-11-08
维护状态活跃
收录时间2026-08-09
浏览次数5

项目介绍

Awesome-LLMOps 是一个精心整理的 LLMOps 工具清单,旨在帮助开发者、数据科学家和运维人员快速发现和选择大语言模型全生命周期管理所需的优秀开源工具。该列表覆盖了从数据准备、模型训练、微调、评估、部署、监控到安全合规等各个环节,解决了 LLMOps 领域工具分散、选型困难的问题。项目以 Markdown 格式维护,按功能分类列出工具名称、简介和链接,并附有相关学习资源和社区贡献指南。其核心价值在于作为社区驱动的知识库,持续汇聚和更新最佳实践,降低 LLMOps 落地门槛,促进生态发展。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 271

核心亮点

  • 分类清晰,覆盖 LLMOps 全流程,方便按需检索
  • 社区驱动,持续更新,紧跟工具演进趋势
  • 附带精选文章和资源,利于学习和实践参考

不足之处

  • 文档/社区待观察
  • 仅提供列表,缺乏工具对比和评测细节

适用场景

  • 技术选型:评估和挑选适合项目的 LLMOps 工具
  • 学习入门:了解 LLMOps 生态和最佳实践
  • 工具调研:跟踪最新开源工具和趋势

替代项目

Awesome-LLM、e2b、LangChain

上一篇:frugon

下一篇:tma1

同类项目推荐

truss-examples 开源

照着抄,把模型快速变成可调用的 HTTP 服务

Examples of models deployable with Truss

★ 234 2026-08-09
dagster-mflix-demo 开源

用 Dagster 跑通电影数据 ELT,快速上手现代数据栈

Sample ELT project using Dagster, data load tool and Snowflake

★ 55 2026-08-09
milvus 开源

海量向量秒级搜索,轻松构建 AI 应用

Milvus is a high-performance, cloud-native vector database built for scalable vector···

★ 46610 2026-08-09
Misceo 开源

让 AI 调用自动选便宜模型,质量不翻车,成本一目了然

Local Anthropic-compatible AI gateway with cheap-first routing, quality gates, safe ···

★ 849 2026-08-09
sample-genai-on-eks-starter-kit 开源

在 EKS 上快速搭建生产级 GenAI 基础设施,省心省力

A comprehensive toolkit for deploying production-ready Generative AI infrastructure ···

★ 100 2026-08-09
gemini-cli-openai 开源

让 OpenAI 客户端不改代码直接调用 Gemini

Expose Gemini CLI endpoints as OpenAI API with Cloudflare Workers

★ 894 2026-09-16
ramalama 开源

像拉容器镜像一样拉取并运行AI模型,本地推理一键搞定。

RamaLama is an open-source developer tool that simplifies the local serving of AI mo···

★ 3112 2026-08-09
sdk 开源

用 Python 轻松在 K8s 上跑 AI 任务,无需懂运维

Universal Python SDK to run AI workloads on Kubernetes

★ 159 2026-08-09
os-moda 开源

跟服务器说人话,AI 替你干活,改坏了秒回滚

An operating system built for AI agents — talk to your NixOS server instead of SSH-···

★ 121 2026-08-09