rag-ops

照着搭,快速拥有生产级 RAG 服务

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 21
GitHub ↗
GitHub 星标 ★ 74
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源项目,无在线服务,需自行部署,完全免费。

项目预览

rag-ops 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队T-Sunm
定价模式🏷️完全免费
价格说明开源项目,无在线服务,需自行部署,完全免费。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Python
技术栈/模型airflow,chatbot,chromadb,devops,langfuse,litellm,llm,llmops,minio,mlops,nemo-guardrails,open-webui,redis
GitHub 星标★ 74
上线时间2025-09-29 00:00:00
代码更新2026-09-29
仓库体积16.3 MB
本站数据更新2026-11-08
维护状态维护中
收录时间2026-08-09
浏览次数7

项目介绍

rag-ops 是一个基于 Python 的 RAG(检索增强生成)系统基础设施参考实现,它将 LLMOps 的核心方法论落地为可运行的代码。项目聚焦于生产级 RAG 应用所需的七大关键层:API 层、推理层、可观测性层、缓存层、护栏层、路由层以及数据摄取管道。它解决了 RAG 系统在工程化过程中常见的碎片化问题,提供了一套模块化、可组合的架构模板,帮助开发者理解并搭建具备高可用、可监控、安全可控的 RAG 服务。核心能力包括:通过缓存层降低推理成本与延迟,通过护栏层过滤有害内容,通过路由层智能分发请求,并通过可观测性层实现全链路追踪与性能监控。项目代码结构清晰,适合作为学习 LLMOps 最佳实践的参考,也可作为新项目的基础骨架。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 74

核心亮点

  • 架构分层清晰,七大层覆盖生产 RAG 关键环节,易于理解和扩展
  • 内置缓存与护栏机制,直接降低推理成本并提升内容安全性
  • 提供可观测性集成,方便监控和调试 RAG 链路

不足之处

  • 文档/社区待观察
  • 早期项目,功能完整性和稳定性未经大规模验证

适用场景

  • 快速搭建企业级 RAG 服务原型
  • 学习 LLMOps 最佳实践的参考代码库
  • 作为内部 RAG 平台的基础架构模板

替代项目

LlamaIndex、Haystack、LangChain

上一篇:kusion

下一篇:langtrace

同类项目推荐

spectralquant 开源

旋转特征基+注水位分配,KV-Cache 压缩不降精度

SpectralQuant: Calibrated Eigenbasis Rotation and Water-Filled Bit Allocation for KV···

★ 204 2026-08-09
edit-anything-app 开源

用无服务器+Stable Diffusion快速搭建AI图像编辑应用

The source of the demo app for fal-serverless + Next.js

★ 123 2026-08-09
Claude-Code-Agent-Monitor 开源

实时盯紧你的 AI 代理,干活进度一目了然

A real-time monitoring dashboard for Claude Code & Codex, built with SQLite3, Node.j···

★ 1159 2026-08-09
openai-openapi 开源

官方 API 契约,一键生成客户端与文档

OpenAPI specification for the OpenAI API

★ 2574 2026-10-26
llmgateway 开源

一个网关搞定所有大模型,统一管理、路由和分析请求。

Route, manage, and analyze your LLM requests across multiple providers with a unifie···

★ 1732 2026-08-09
edgee 开源

一条命令接入 Edgee 网关,让所有 AI 编程助手省钱省心。

Official Edgee CLI to interract with Edgee's Agent Gateway. Route Claude Code, Codex···

★ 143 2026-08-09
mlop 开源

一键记录实验,轻松对比模型,让机器学习实验管理更高效

Next Generation Experimental Tracking for Machine Learning Operations

★ 395 2026-08-09
Flash-Sparse-Attention 开源

让长序列注意力更快更省,即插即用替换标准注意力

Efficient implementations of Native Sparse Attention

★ 590 2026-08-09
AIephant-AI-Agent-Gateway 开源

统一管控所有 AI 代理的 LLM 调用,还能发布成付费接口赚钱

Alephant is an open-source AI Agent Gateway for routing, tracking, and controlling L···

★ 118 2026-08-09