FollowBench

用多级细粒度约束,精准测出大模型指令遵循的真实水平

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 19 🐛 待处理 9 👀 关注 3
GitHub ↗
GitHub 星标 ★ 121
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源基准测试项目,Apache-2.0许可,完全免费,无付费版本。

项目预览

FollowBench 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队YJiangcm
定价模式🏷️完全免费
价格说明开源基准测试项目,Apache-2.0许可,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型benchmark,constraints,instruction-following,large-language-models,multi-level
GitHub 星标★ 121
上线时间2023-10-31 00:00:00
代码更新2025-06-12
仓库体积4.0 MB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数6

项目介绍

FollowBench 是一个用于评估大型语言模型(LLM)遵循细粒度指令能力的基准测试集,由 ACL 2024 论文提出。它针对现有基准测试中指令约束过于简单、单一的问题,设计了多层级(从单一约束到五重约束)的细粒度约束体系,并配套了自动评估方法。该基准包含 500 条精心设计的指令,每条指令包含多个约束条件,能够系统性地测试模型在复杂指令下的遵循能力。核心能力包括:约束自动拆解与验证、多层级难度递进、以及基于 GPT-4 的自动评分机制。它解决了传统基准无法区分模型在简单与复杂指令遵循上的性能差异的问题,为 LLM 的指令遵循能力提供了更精细的度量工具。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 121

核心亮点

  • 设计了从简单到复杂的多层级约束(1-5个约束),能细致区分模型能力差异
  • 提供自动评估脚本,基于GPT-4打分,无需人工标注,可复现性强
  • 数据公开且配套代码,便于研究者直接使用和扩展

不足之处

  • 依赖GPT-4作为评估器,存在一定成本和偏差风险
  • 测试集规模较小(500条),覆盖场景有限

适用场景

  • 学术研究:比较不同LLM的指令遵循能力
  • 模型开发:在发布前测试模型对复杂指令的处理能力
  • 基准测试:作为LLM评估套件的一部分,补充细粒度约束维度

替代项目

IFEval、InstructionFollowing-Eval、ComplexBench

上一篇:LLMeBench

下一篇:UHGEval

同类项目推荐

inference-perf 开源

给大模型推理服务做压测,量化吞吐延迟

GenAI inference performance benchmarking tool

★ 272 2026-10-19
pytorch-grad-cam 开源

一键生成热力图,看清 AI 模型到底在看哪里

Advanced AI Explainability for computer vision. Support for CNNs, Vision Transforme···

★ 13011 2026-08-10
ai-evals 开源

用 Ruby 脚本跑 AI 模型评测,选型对比有据可依

Evals and benchmarks for AI models

★ 117 2026-09-24
faster_coco_eval 开源

替换 pycocotools,COCO 评测提速数倍不丢精度

Continuation of an abandoned project fast-coco-eval

★ 148 2026-09-14
heurigym 开源

用 LLM 设计优化算法,一键评测智能体启发式能力

Agentic Benchmark for LLM-Crafted Heuristics in Combinatorial Optimization (ICLR'26)

★ 96 2026-08-09
InfiniteBench 开源

测出大模型在10万字长文本下的真实水平

Codes for the paper "∞Bench: Extending Long Context Evaluation Beyond 100K Tokens":···

★ 393 2026-08-09
LLM-Agent-Benchmark-List 开源

一站式查找 LLM 智能体评估基准,省去全网搜索时间

A banchmark list for evaluation of large language models.

★ 174 2026-08-09
tribunal 开源

在 Elixir 里像写测试一样评测 LLM 输出

LLM evaluation framework for Elixir: evaluate and test LLM outputs, detect hallucina···

★ 119 2026-09-15