VibeSearchBench

专治搜索系统'听不懂人话',用200个模糊任务测出真实力

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 搜索知识 🍴 复刻 3 👀 关注 1
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 106
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,无付费版本。

项目预览

VibeSearchBench 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类搜索知识
开发团队VibeBench
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型agentic-ai,benchmark,llm,proactive-agent,search,search-agent
GitHub 星标★ 106
上线时间2026-05-20 00:00:00
代码更新2026-05-28
仓库体积480 KB
本站数据更新2026-11-08
维护状态低维护
收录时间2026-08-09
浏览次数3

项目介绍

VibeSearchBench 是一个面向真实世界复杂搜索场景的基准测试集,旨在评估和推动搜索系统在模糊、多轮、主动式交互中的表现。它包含200个长时程任务,每个任务都模拟了用户带着模糊意图、需要多轮对话澄清、并期望系统主动引导的搜索过程。项目采用人物角色驱动的渐进式信息揭示方式,使测试更贴近真实用户行为。其核心创新在于使用可验证的、无模式的知识图谱评估方法,通过三元组F1分数客观衡量搜索结果的相关性和完整性,避免了传统基准测试中主观评分和简单字符串匹配的局限性。该基准旨在解决现有搜索基准(如BEIR)任务定义明确、单轮、被动响应,无法反映真实搜索中信息需求逐步明确和交互式探索的问题,为下一代搜索系统(如基于大语言模型的搜索代理)提供更严苛和全面的评测标准。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 106

核心亮点

  • 任务设计贴近真实:模糊意图+多轮对话+主动引导,考验系统交互能力
  • 评估客观可验证:基于知识图谱三元组F1,避免主观评分,结果可复现
  • 覆盖长时程任务:200个任务,适合评测长期记忆和上下文管理能力

不足之处

  • 项目处于早期阶段,文档和社区支持有待完善
  • 基准测试集规模有限(200任务),可能无法覆盖所有搜索场景

适用场景

  • 评测大语言模型搜索代理的交互式搜索能力
  • 研究模糊查询下的用户意图理解和澄清策略
  • 对比不同搜索系统在复杂任务上的性能差异

替代项目

BEIR、MS MARCO、TREC CAR

同类项目推荐

Tracely-ai 开源

把生产事故变成回归测试,合并前自动拦截 AI 故障

Trace-native CI/CD for AI agents — production failures become regression tests that···

★ 1311 2026-08-24
GLM-5.3-Flash-J-Space-Capability··· 开源

把大模型智能体能力评测做成可读报告,一眼看清真实水平

GLM-5.3-Flash × J-Space capability realization — benchmark presentation of the J-S···

★ 1016 2026-09-25
nemo-helix 开源

让上线的 AI Agent 更快更准更安全

NeMo Helix: Make the agents you ship faster, more accurate, and safer.

★ 138 2026-10-21
Aegis 开源

给 AI 代理加装安全护栏,零代码实现审计、审批和紧急停机。

Runtime policy enforcement for AI agents. Cryptographic audit trail, human-in-the-lo···

★ 523 2026-08-10
Deco 开源

让多模态模型少说瞎话,动态纠错解码即插即用

[ICLR 2025] MLLM can see? Dynamic Correction Decoding for Hallucination Mitigation

★ 150 2026-08-09
Tracely-ai 开源

把线上 agent 失败轨迹变成 CI 回归测试,退化就拦 PR

Trace-native CI/CD for AI agents: grade production traces, cluster failures, freeze ···

★ 978 2026-10-22
awesome-ai-security-tools 开源

一页清单,快速定位 AI 安全各细分方向的可用工具

A curated list of public-source, research, and commercial tools for AI security and ···

★ 1721 2026-09-16
opik 开源

一站式追踪、评估、监控你的 LLM 应用,从调试到上线全程掌控。

Debug, evaluate, and monitor your LLM applications, RAG systems, and agentic workflo···

★ 23256 2026-08-09