CRUD_RAG

测一测你的RAG系统,中文场景下到底行不行

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 34 🐛 待处理 9 👀 关注 4
GitHub ↗
GitHub 星标 ★ 419
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,完全免费,可自行部署使用。

项目预览

CRUD_RAG 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队IAAR-Shanghai
定价模式🏷️完全免费
价格说明开源项目,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Python
技术栈/模型benchmark,large-language-models,retrieval-augmented-generation
GitHub 星标★ 419
上线时间2024-01-26 00:00:00
代码更新2025-05-20
仓库体积197.8 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数8

项目介绍

CRUD-RAG 是一个专为中文检索增强生成(RAG)技术设计的综合评测基准。它针对大语言模型在知识密集型任务中的表现,提供了一套系统化的评估框架。该项目解决了当前RAG评测多基于英文、中文场景覆盖不足的问题,通过构建涵盖创建、读取、更新、删除等多样化任务的中文数据集,全面检验模型在信息检索、证据整合和答案生成等环节的能力。其核心能力包括:提供标准化的评测流程和指标,支持多维度性能对比,并附带基线模型结果,帮助研究者和开发者客观衡量不同RAG方案的优劣。该基准特别强调对中文语境下复杂查询和细粒度知识操作的支持,为中文RAG技术的研究与落地提供了重要参考。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 419

使用教程

难度:进阶 约 40 分钟 部署方式:本地安装 4 步

环境要求

  • Python 3.10+
  • 一个模型 API Key

安装与启动步骤

  1. 1拉仓库装依赖

    中文 RAG 基准,含数据与评测脚本。

  2. 2先跑快速开始

    用自带数据跑通一遍完整链路。

    python quick_start.py
  3. 3看它覆盖的任务类型

    问答、创作、续写等分别评测,别只看总分。

  4. 4换成自己的知识库

    任务类型可复用,数据要自己准备。

如何确认成功

能产出分任务的得分表,且换一个嵌入模型后检索类任务的分差明显大于生成类任务

注意事项

  • 它是中文领域的 RAG 基准,覆盖多种下游任务而不是单一问答。
  • 基准数据集公开,存在被训练数据污染的可能,结论要留余地。
  • 分任务看比看总分有信息量,短板常在检索侧。
  • 评测成本按调用量计费,全量跑开销不小。

核心亮点

  • 首个系统性的中文RAG评测基准,填补了中文场景空白
  • 覆盖创建、读取、更新、删除四类核心操作,评测维度全面
  • 附带基线模型结果,便于直接对比和复现

不足之处

  • 项目处于早期阶段,文档和社区支持尚待完善
  • 数据集规模和任务多样性可能有限,需持续扩充

适用场景

  • 评估和比较不同RAG框架在中文知识库问答中的效果
  • 指导企业选择适合中文业务场景的RAG技术方案
  • 学术研究中验证RAG模型在中文环境下的能力边界

替代项目

C-RAG、Chinese-RAG-Benchmark、RAGAS

同类项目推荐

SILENTCHAIN 开源

在 Burp 里用大模型辅助找 Web 漏洞

AI-powered vulnerability scanner extension for Burp Suite with multi-provider suppor···

★ 466 2026-10-29
agent-audit 开源

给 AI 智能体做安全体检,防提示注入和配置漏洞

Static security scanner for LLM agents — prompt injection, MCP config auditing, tai···

★ 244 2026-08-09
prompt-guard 开源

给 AI 智能体装上防注入防火墙,自动识别恶意提示并评分。

Advanced prompt injection defense system for AI agents. Multi-language detection, se···

★ 180 2026-08-09
next-evals-oss 开源

给 AI 出 Next.js 考题,看它到底会不会写

Evals for Next.js up to 15.5.6 to test AI model competency at Next.js

★ 329 2026-09-14
awesome-llm-unlearning 开源

一站式收藏大模型遗忘研究资源,快速上手知识擦除

A resource repository for machine unlearning in large language models

★ 638 2026-08-09
Veritensor 开源

扫描 AI 模型与数据,防投毒、防注入、防泄露

The Anti-Virus for AI Artifacts & RAG Firewall. A static analysis tool scanning Mode···

★ 88 2026-08-09
hallucination-index 开源

测出哪个AI最会胡说八道,选模型不再踩坑

Initiative to evaluate and rank the most popular LLMs across common task types based···

★ 115 2026-08-09
TravelPlanner 开源

测测你的AI会不会做旅行攻略,一测便知规划能力

[ICML'24 Spotlight] "TravelPlanner: A Benchmark for Real-World Planning with Languag···

★ 569 2026-08-09