LooGLE

测长文本模型真实力,看它能否抓住长文关键

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 6 🐛 待处理 2 👀 关注 4
GitHub ↗
GitHub 星标 ★ 203
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,可自行部署使用。

项目预览

LooGLE 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队bigai-nlco
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型acl2024,large-language-models,llm,long-context
GitHub 星标★ 203
上线时间2023-11-02 00:00:00
代码更新2026-08-06
仓库体积7.3 MB
本站数据更新2026-11-07
维护状态低维护
收录时间2026-08-09
浏览次数3

项目介绍

LooGLE 是 ACL 2024 发布的面向长上下文语言模型的评测基准,旨在系统评估模型对超长文档的理解与生成能力。它解决了现有基准在长文本任务上区分度不足、依赖检索或记忆捷径的问题,通过设计六大任务(短依赖、长依赖、摘要、时间线、多跳推理、需外部知识)来全面测试模型的短时与长时依赖建模、信息检索、推理和生成能力。核心能力包括:提供超过 200 个真实世界长文档(平均 9000+ 词),任务设计强调对长文本的深度理解而非简单复制;支持自动评估与人工评估结合,并公开了基线模型(如 GPT-4、Claude)的评测结果,便于研究者对比。该基准特别关注模型在长上下文中的‘有效理解’与‘信息定位’能力,为长上下文模型的发展提供可靠度量。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 203

核心亮点

  • 任务设计区分短依赖与长依赖,能暴露模型在长文本上的真实短板
  • 基于真实长文档构建,避免合成数据偏差,贴近实际应用
  • 提供多模型基线结果,便于横向对比和追踪进展

不足之处

  • 项目处于早期,文档和社区支持尚待完善
  • 评测集规模有限,可能无法覆盖所有长文本场景

适用场景

  • 研究长上下文语言模型的评测与对比
  • 开发长文本理解应用时验证模型能力
  • 学术论文中作为基准测试工具

替代项目

LongBench、ZeroSCROLLS、L-Eval

上一篇:lmms-eval

下一篇:Video-MME-v2

同类项目推荐

Fintech-CUI-Trust-Framework 开源

给金融AI划清权限红线,让对话代理合规又可控

An open-source engineering governance standard defining trust boundaries for convers···

★ 175 2026-08-10
claw-eval 开源

接入模型跑人工校验任务,快速量化智能体能力

Claw-Eval is an evaluation harness for evaluating LLM as agents. All tasks verified ···

★ 909 2026-09-14
vestige 开源

给AI智能体装黑匣子,每步操作可查可证

Think before doing, prove before saving. Vestige is the local-first cognitive operat···

★ 660 2026-10-10
context-bombs 开源

用现成的攻击字符串,测出你的 AI 系统抗不抗揍。

Context bomb strings

★ 163 2026-08-10
GitTaskBench 开源

用真实仓库任务,测出代码代理的真实水平

Repo-level benchmark for real-world Code Agents: from repo understanding → env setu···

★ 260 2026-08-09
agentseal 开源

给 AI 智能体做安全体检,防投毒防注入

Security toolkit for AI agents. Scan your machine for dangerous skills and MCP confi···

★ 382 2026-08-09
uptrain 开源

给 LLM 应用打分找茬,快速定位并修复质量问题。

UpTrain is an open-source unified platform to evaluate and improve Generative AI app···

★ 2367 2026-08-09
lmms-eval 开源

一套工具搞定文本/图像/视频/音频模型评测,结果可复现

One-for-All Multimodal Evaluation Toolkit Across Text, Image, Video, and Audio Tasks

★ 4490 2026-08-09