hash-hop

自动生成超长文本定位题,快速测出模型长上下文真本事

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 30 🐛 待处理 13 👀 关注 9
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 228
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,定价信息待确认

项目预览

hash-hop 项目界面预览图
图片来源:项目官网

项目数据

分类评测安全
开发团队magic-ai-research
定价模式🏷️完全免费
价格说明开源免费,定价信息待确认
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型terraform-managed
GitHub 星标★ 228
上线时间2024-08-29 00:00:00
代码更新2026-11-05
仓库体积110 KB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-09-25
浏览次数1

项目介绍

hash-hop 是一个面向大语言模型长上下文能力的评测工具,用 Python 编写并通过 Terraform 管理评测所需的基础设施。它要解决的问题是:现有长上下文评测往往依赖人工构造样本或固定数据集,难以规模化、可复现地检验模型在超长输入下的检索、推理与信息保持能力。hash-hop 的核心思路是把评测任务与哈希/跳转式定位机制结合,自动生成需要模型在长文本中定位并利用特定片段的任务,从而量化模型是否真正利用了远距离上下文,而非仅靠局部线索猜测。项目提供可复现的评测流程,借助 Terraform 声明式地拉起运行环境,降低部署成本,适合研究团队在自有模型或 API 模型上做横向对比。当前星标约 230,属于早期项目,功能与文档仍在演进中。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-25 · 当前星标 ★ 228

核心亮点

  • 用哈希/跳转机制自动生成需跨长距离定位的评测样本,减少人工造题成本
  • 通过 Terraform 管理评测基础设施,环境可声明式复现,便于团队协作与结果对比
  • 聚焦长上下文这一当前模型关键短板,能暴露模型在超长输入下的检索与信息保持缺陷

不足之处

  • 项目处于早期,评测任务类型和覆盖维度可能还不够全面
  • 文档与社区生态尚不成熟,接入自有模型或自定义任务的上手成本待观察

适用场景

  • 研究团队对比多个 LLM 的长上下文检索与推理能力
  • 模型厂商在发布新版本前做长上下文回归测试
  • 评测机构构建可复现的长上下文基准并公开结果

替代项目

LongBench、RULER

同类项目推荐

MMAD 开源

用统一基准测出多模态大模型在工业质检中的真实水平

The Codes and Data of A Comprehensive Benchmark for Multimodal Large Language Models···

★ 280 2026-10-28
terminal-bench-science 开源

让 AI 在终端里跑通真实科研任务并自动打分

Terminal-Bench-Science: Evaluating AI agents on research workflows across scientific···

★ 855 2026-09-22
DEFAME 开源

自动核查文本和图片,快速识别虚假信息

Fact-checking system for textual and visual inputs.

★ 62 2026-08-09
matharena 开源

用最新数学竞赛题测大模型真实推理水平

Evaluation of LLMs on latest math competitions

★ 295 2026-10-23
ps-fuzz 开源

自动模糊测试系统提示词,找出越狱漏洞并加固

Make your GenAI Apps Safe & Secure :rocket: Test & harden your system prompt

★ 718 2026-09-16
Doberman-Core 开源

给 AI 智能体装上安全锁,防提示注入,控工具权限

Your AI's guard dog. Doberman sits at runtime, gating every input, output and tool c···

★ 243 2026-08-09
AgentHound 开源

像 BloodHound 一样测绘 AI 智能体攻击路径,快速发现安全弱点。

Offensive security framework for AI agent infrastructure - recon, credential looting···

★ 462 2026-08-09
aws-bench 开源

给AI智能体在真实AWS云上打分的基准测试

aws-bench measures how well AI agents and model combinations perform on real AWS wor···

★ 144 2026-08-09