robustness-foundation-models
动手复现大模型鲁棒性实验，看清AI脆弱点
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 72
核心亮点
- 源自NeurIPS 2022官方教程，内容权威且系统
- 提供可直接运行的Notebook，降低实验复现门槛
- 覆盖对抗攻击、分布偏移、提示注入等多类鲁棒性问题
不足之处
- 项目处于早期，代码和文档覆盖有限
- 依赖特定环境配置，上手需一定基础
适用场景
- 研究大模型对抗攻击与防御方法
- 评估自有模型在异常输入下的稳定性
- 教学演示基础模型鲁棒性概念
替代项目
Adversarial Robustness Toolbox (ART)、RobustBench、Foolbox
上一篇：auto_eval
下一篇：TaskMeAnything
同类项目推荐
chatgpt-failures
开源
看AI翻车现场，理性用大模型
Failure archive for ChatGPT and similar models
LettuceDetect
开源
定位 RAG 回答里哪句话没依据，span 级揪出幻觉
Span-level grounding verification for RAG, code, and tool-grounded AI outputs.
Jailbreaker-CE
开源
本地跑越狱测试，快速发现聊天机器人安全漏洞
Jailbreaker is a local evaluation tool for testing chatbot and agent-style systems a···
openbench
开源
同一模型，不同封装，一测便知谁更省更快更准。
Same model, different wrapper: a from-scratch benchmark comparing coding-agent harne···
ATM-Bench
开源
测测AI能否记住你4年前的琐事
ATM-Bench: A benchmark for long-term personalized memory QA spanning ~4 years of mul···
awesome-RLHF
开源
一份清单，从入门到进阶搞定 RLHF 全部资源
A curated list of reinforcement learning with human feedback resources (continually ···
julius
开源
输入 IP:端口，秒认背后是哪种 LLM 服务
Simple LLM service identification - translate IP:Port to Ollama, vLLM, LiteLLM, or 6···
openguardrails
开源
给 AI Agent 加本地规则、沙箱和网络管控三道闸
AI agent guardrails for every builder. Local rules, a sandbox and a firewall for you···
ai-scanner
开源
一条命令给 AI 模型做安全体检，提前发现越狱和泄露风险
AI model safety scanner built on NVIDIA garak