Loong

测出长文本大模型真实力,必须跨文档推理才能答对

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 搜索知识 🍴 复刻 12 👀 关注 1
GitHub ↗
GitHub 星标 ★ 154
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0 许可证,可免费使用和部署。

项目预览

Loong 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类搜索知识
开发团队MozerWang
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0 许可证,可免费使用和部署。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型large-language-models,long-context,long-context-modeling,multi-document-rag,question-answering,rag,retrieval-augmented-generation
GitHub 星标★ 154
上线时间2024-06-16 00:00:00
代码更新2025-12-22
仓库体积31.9 MB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数3

项目介绍

Loong 是 EMNLP 2024 的 Oral 论文项目,专注于长上下文大语言模型(LLM)的评测基准。它针对现有长文本评测任务中“文档被截断”或“仅需单文档即可回答”的缺陷,提出了一个扩展的多文档问答(QA)基准,要求模型必须综合多篇长文档的信息才能正确回答。项目包含数据生成流程、评测代码和结果分析工具,核心能力是构造需要跨文档推理的复杂问题,并评估模型在超长上下文(如128K tokens)下的真实表现。它解决了长上下文模型“看似能读,实则不会用”的评测盲区,为模型开发者和研究者提供了更贴近真实应用的评测标准。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 154

核心亮点

  • 首个强调必须综合多文档才能作答的长上下文QA基准,避免单文档捷径
  • 提供完整数据生成pipeline,可扩展至不同领域和语言
  • 论文被EMNLP 2024接收为Oral,方法经过学术验证

不足之处

  • 项目处于早期,文档和社区支持待观察
  • 数据生成依赖特定LLM,可能引入生成偏差

适用场景

  • 评估长上下文LLM在金融、法律等多文档场景的推理能力
  • 对比不同长上下文模型(如GPT-4、Claude、开源模型)的基准测试
  • 指导长上下文模型训练数据的构建和优化

替代项目

LongBench、L-Eval、ZeroSCROLLS

上一篇:coir

下一篇:BEAM

同类项目推荐

evals-skills 开源

让编码代理手把手帮你搭产品专属 AI 评测

Skills that guide AI coding agents to help you build product-specific AI evals.

★ 1727 2026-09-14
llmspeed 开源

买显卡前先跑分,本地大模型速度一目了然

Feel how fast a local LLM runs before you buy the hardware

★ 171 2026-11-07
ai-eval-platform 开源

一站式评测 AI 应用,让质量看得见

开源 AI 应用评测平台,支持 RAG、AI Agent、多轮对话、LLM-as-Judge、接口评测、评测报告···

★ 19 2026-08-09
lintlang 开源

上线前扫一遍,AI 智能体配置不踩坑

Static analysis for AI agent configs, tool descriptions, and system prompts — catch···

★ 144 2026-08-09
Multi-Modality-Arena 开源

上传图片,并排对比多模态大模型谁更聪明

Chatbot Arena meets multi-modality! Multi-Modality Arena allows you to benchmark vis···

★ 566 2026-08-09
SECA 开源

用语义等价攻击,自动逼出 LLM 的幻觉破绽

[NeurIPS 2025] SECA: Semantically Equivalent and Coherent Attacks for Eliciting LLM ···

★ 73 2026-08-09
judgeval 开源

给 AI Agent 装上持续评测仪表盘,让改进有据可依

The Continuous-Improvement Stack for Agents. Our environment data and evals power ag···

★ 1073 2026-08-10
Oversight 开源

模块化拆解 LLM,自动红队测试,发现漏洞

A Completely Modular LLM Reverse Engineering, Red Teaming, and Vulnerability Researc···

★ 55 2026-08-09