用多级细粒度约束，精准测出大模型指令遵循的真实水平
FollowBench 是一个用于评估大型语言模型（LLM）遵循细粒度指令能力的基准测试集，由 ACL 2024 论文提出。它针对现有基准测试中指令约束过于简单、单一的问题，设计了多层级（从单一约束到五重约束）的细粒度约束体系，并配套了自动评估方法。该基准包含 500 条精心设计的指令，每条指令包含多个约束条件，能够系统性地测试模型在复杂指令下的遵循能力。核心能力包括：约束自动拆解与验证、多层级难度递进、以及基于 GPT-4 的自动评分机制。它解决了传统基准无法区分模型在简单与复杂指令遵循上的性能差异的问题，为 LLM 的指令遵循能力提供了更精细的度量工具。
IFEval、InstructionFollowing-Eval、ComplexBench
FollowBench 是评测安全领域的开源项目，由 YJiangcm 开发，2023 年首次发布。
它收录于评测安全分类，该分类目前共有 458 个项目，GitHub 星标数为 121。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-16。开源基准测试项目，Apache-2.0许可，完全免费，无付费版本。
它主要面向的使用场景是：学术研究：比较不同LLM的指令遵循能力。同类可对比的替代方案包括 IFEval、InstructionFollowing-Eval、ComplexBench。
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门，防提示注入和隐私泄露
The fastest Trust Layer for AI Agents
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
