benchmark-qed

自动跑分 RAG 系统,选型调参不再拍脑袋

开源 free 评测安全
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 100
维护状态 活跃
是否开源 是
定价模式 free

项目预览

项目数据

分类评测安全
开发团队microsoft
所属国家
定价模式free
价格说明开源免费,微软维护的RAG评测基准工具
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型benchmarking,benchmarkqed,llm,rag
GitHub 星标★ 100
30天Star增速
HF 下载量
上线时间2025-04-03 00:00:00
代码更新—
仓库体积—
本站数据更新—
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-10-15
浏览次数0

项目介绍

benchmark-qed 是一个面向 RAG(检索增强生成)系统的自动化基准测试工具,用 Python 编写。它要解决的问题是:RAG 系统效果好坏往往依赖人工评估或零散脚本,难以横向对比不同检索器、重排器与生成模型的组合。该项目提供一套可复用的评测流程,自动跑通问答数据集,计算答案质量、检索命中率等指标,并输出结构化报告,帮助开发者快速定位瓶颈在检索还是生成环节。核心能力包括:对接多种向量库与 LLM 接口、支持自定义数据集与评测指标、批量执行多组配置并汇总对比。适合在选型、调参或上线前做回归验证,把主观感受变成可量化数据。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

正在加载星标数据…

技术标签

使用教程

—

核心亮点

  • 把 RAG 评测流程自动化,减少手写脚本和人工比对成本
  • 支持多组检索/生成配置批量对比,方便做选型与回归测试
  • Python 实现,易于接入现有 RAG 代码和自定义数据集

不足之处

  • 项目处于早期,星标约 100,生态与文档成熟度有限
  • 评测指标和内置数据集覆盖范围可能不够广,需自行扩展

适用场景

  • RAG 应用选型时对比不同向量库与 LLM 组合效果
  • 上线前对检索或生成模块做回归验证
  • 学术或工程团队复现 RAG 论文指标并做消融实验

替代项目

RAGAS、TruLens

上一篇:sec-code-bench

下一篇:没有了!

同类项目推荐

hanshuang-codex 开源

桌面端批量测大模型越狱提示,一键跑实验看边界

针对GPT 6.0,workbuddyV4.1flash的破甲实验项目

★ 1110 2026-09-28
akto 开源

给 AI 应用做安全体检,防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1527 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾,自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 165 2026-08-10
deepteam 开源

自动模拟越狱攻击,提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 3012 2026-09-12