项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 73
核心亮点
- 提出语义等价变换攻击，能生成自然连贯的对抗样本，避免生硬改写
- 聚焦幻觉触发场景，直接针对模型事实性缺陷，评测目标明确
- 方法发表于 NeurIPS 2025，学术严谨性高，适合研究引用
不足之处
- 项目处于早期，文档和社区支持待观察
- 未提供预训练模型或大规模评测基准，上手需自行配置环境
适用场景
- LLM 安全红队测试，评估模型幻觉鲁棒性
- 模型发布前的事实性缺陷检测
- 学术研究：对抗攻击与幻觉缓解方法对比
替代项目
PromptBench、TextAttack、OpenAttack
下一篇：Video-MME
同类项目推荐
Tracekit
开源
给 AI Agent 装行车记录仪，每步可查、篡改可发现
Tamper-evident tracing, policy gates and cross-checks for AI agents: see what the ag···
ai-rag-chat-evaluator
开源
给 RAG 问答打分，量化回答质量再上线
Tools for evaluation of RAG Chat Apps using Azure AI Evaluate SDK and OpenAI
Modality-Integration-Rate
开源
量化视觉-语言模型跨模态对齐，诊断融合短板
[ICCV 2025] The official code of the paper "Deciphering Cross-Modal Alignment in Lar···
Rules.txt
开源
用指令集撬开AI黑盒，审计推理与偏见
LLM alignment jailbreak; a set of instructions for auditing their internal reasoning···
awesome-gpt-6-astra
开源
一份清单，带你安全玩转GPT-6 Astra的实战用例与提示词。
Evidence-backed use cases, prompts, integrations, evaluations, and safety notes for ···
botsim
开源
自动仿真对话，快速揪出聊天机器人短板
BotSIM - a data-efficient end-to-end Bot SIMulation toolkit for evaluation, diagnosi···
awesome-direct-preference-optimi···
开源
一网打尽DPO论文与代码，快速入门偏好对齐
A Survey of Direct Preference Optimization (DPO)
crust
开源
给 AI Agent 装上行为拦截闸，危险操作发生前就挡住
Open Source AI Agent Security Infrastructure — intercepts and blocks dangerous agen···
arc-agi-benchmarking
开源
统一流程跑多个大模型，横向对比抽象推理成绩
Testing baseline LLMs performance across various models