rag-ops

照着搭，快速拥有生产级 RAG 服务

rag-ops 是一个基于 Python 的 RAG（检索增强生成）系统基础设施参考实现，它将 LLMOps 的核心方法论落地为可运行的代码。项目聚焦于生产级 RAG 应用所需的七大关键层：API 层、推理层、可观测性层、缓存层、护栏层、路由层以及数据摄取管道。它解决了 RAG 系统在工程化过程中常见的碎片化问题，提供了一套模块化、可组合的架构模板，帮助开发者理解并搭建具备高可用、可监控、安全可控的 RAG 服务。核心能力包括：通过缓存层降低推理成本与延迟，通过护栏层过滤有害内容，通过路由层智能分发请求，并通过可观测性层实现全链路追踪与性能监控。项目代码结构清晰，适合作为学习 LLMOps 最佳实践的参考，也可作为新项目的基础骨架。