MisguidedAttention 是评测安全领域的开源项目，由 cpldcpu 开发，2024 年首次发布。
它收录于评测安全分类，该分类目前共有 458 个项目，GitHub 星标数为 485。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-23。采用CC0-1.0许可证，完全免费，无付费版本。
它主要面向的使用场景是：大模型推理能力基准测试。同类可对比的替代方案包括 TruthfulQA、Adversarial NLI、Big-Bench。
MisguidedAttention
用误导性提示词，测出大模型推理的短板
MisguidedAttention 是一个专门用于挑战大语言模型推理能力的提示词集合，旨在测试模型在面对误导性信息时的表现。它解决的问题是当前 LLM 在复杂推理场景中容易被无关或误导性上下文干扰，导致错误判断。该项目通过精心设计的提示词，引导模型在包含陷阱、矛盾或无关信息的环境中进行推理，从而暴露模型的弱点。核心能力包括提供多样化的挑战性 prompt、评估模型鲁棒性、以及帮助研究者或开发者识别模型在误导信息下的失败模式。它适用于模型评测、安全研究和提示工程优化。
开源
free
开源模型
GitHub 星标
★ 485
维护状态
低维护
是否开源
是
定价模式
free
项目数据
分类开源模型
开发团队cpldcpu
所属国家
定价模式free
价格说明开源项目，采用CC0-1.0许可证，完全免费，无付费版本。
访问状态
是否开源是
开源协议CC0-1.0
主要语言Python
技术栈/模型large-language-models,llm
GitHub 星标★ 485
30天Star增速
HF 下载量
上线时间2024-05-20 00:00:00
最近更新2026-09-23 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数8
使用教程
核心亮点
- 提供系统化的误导性 prompt 集合，覆盖多种推理陷阱
- 直接用于模型鲁棒性评测，结果可量化
- 轻量级，易于集成到现有测试流程
不足之处
- 提示词数量有限，覆盖面可能不够广
- 缺乏自动化评估工具，需手动运行
- 文档/社区待观察
适用场景
- 大模型推理能力基准测试
- 安全对齐研究中的对抗性测试
- 提示工程优化中的鲁棒性验证
替代项目
TruthfulQA、Adversarial NLI、Big-Bench
项目介绍
上一篇：llm-srbench
下一篇：napolab
同类项目推荐
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
Tracely-ai
开源
把生产事故变成回归测试，合并前自动拦截 AI 故障
Trace-native CI/CD for AI agents — production failures become regression tests that···