long-form-factuality

测出大模型长篇回答里有多少真话

这是一个用于评估大语言模型长文本事实性(long-form factuality)的基准测试工具,来自论文《Long-form factuality in large language models》的官方代码。它解决了当前LLM在生成开放式长回答时容易产生事实性错误、且缺乏系统评估方法的问题。核心能力包括:提供了一套包含38个主题、覆盖广泛领域的提示词集(LongFact),用于触发模型生成长文本回答;实现了基于细粒度事实分解的自动评估指标(如F1分数),通过将回答拆分为独立事实点并与参考知识库比对,量化模型的事实准确率;支持多种主流LLM(如GPT、Claude、Llama等)的接入与评估,并提供了可视化分析工具。该基准有助于研究者客观比较不同模型在长文本生成中的事实可靠性,推动模型在事实性方面的改进。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 693
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队google-deepmind
所属国家
官网地址
定价模式free
价格说明开源项目,代码公开,可自行部署使用,无收费计划。
访问状态
是否开源是
开源协议NOASSERTION
主要语言Python
技术栈/模型benchmark,dataset,evaluation,factuality,language,language-modeling,large-language-models,metrics
GitHub 星标★ 693
30天Star增速
HF 下载量
上线时间2024-03-25 00:00:00
最近更新2026-09-01 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数2

使用教程

核心亮点

  • 提供38个主题的多样化提示集,覆盖广泛知识领域,评估更全面
  • 采用细粒度事实分解与F1打分,比传统整体评分更精准
  • 官方代码,附带论文方法,便于复现和二次开发

不足之处

  • 评估依赖外部知识库,对时效性强的主题可能不准确
  • 文档/社区待观察

适用场景

  • 研究机构对大模型事实性进行横向评测
  • 模型开发者在训练后验证长文本生成质量
  • 企业选型时对比不同LLM的事实可靠性

替代项目

HELM、MMLU、TruthfulQA

项目介绍

long-form-factuality 是评测安全领域的开源项目,由 google-deepmind 开发,2024 年首次发布。

它收录于评测安全分类,该分类目前共有 466 个项目,GitHub 星标数为 693。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-01。代码公开,可自行部署使用,无收费计划。

它主要面向的使用场景是:研究机构对大模型事实性进行横向评测。同类可对比的替代方案包括 HELM、MMLU、TruthfulQA。

同类项目推荐

akto 开源

给 AI 应用做安全体检,防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1517 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾,自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 164 2026-08-10
deepteam 开源

自动模拟越狱攻击,提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 2937 2026-09-12