Awesome-LLMOps 是基础设施领域的开源项目,由 InftyAI 开发,2023 年首次发布。
它收录于基础设施分类,该分类目前共有 1,132 个项目,GitHub 星标数为 264。
项目目前处于活跃维护状态,最近一次代码更新于 2026-09-24。完全免费,无付费版本。
它主要面向的使用场景是:技术选型:评估和挑选适合项目的LLMOps工具。同类可对比的替代方案包括 Awesome-LLM、e2b、LangChain。

一站式找齐 LLMOps 工具,告别选型大海捞针
Awesome-LLMOps 是一个精心整理的 LLMOps 工具清单,旨在帮助开发者、数据科学家和运维人员快速发现和选择大语言模型全生命周期管理所需的优秀开源工具。该列表覆盖了从数据准备、模型训练、微调、评估、部署、监控到安全合规等各个环节,解决了 LLMOps 领域工具分散、选型困难的问题。项目以 Markdown 格式维护,按功能分类列出工具名称、简介和链接,并附有相关学习资源和社区贡献指南。其核心价值在于作为社区驱动的知识库,持续汇聚和更新最佳实践,降低 LLMOps 落地门槛,促进生态发展。
Awesome-LLM、e2b、LangChain
Awesome-LLMOps 是基础设施领域的开源项目,由 InftyAI 开发,2023 年首次发布。
它收录于基础设施分类,该分类目前共有 1,132 个项目,GitHub 星标数为 264。
项目目前处于活跃维护状态,最近一次代码更新于 2026-09-24。完全免费,无付费版本。
它主要面向的使用场景是:技术选型:评估和挑选适合项目的LLMOps工具。同类可对比的替代方案包括 Awesome-LLM、e2b、LangChain。
freebuff-proxy
开源
聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型,免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···