扫描AI模型漏洞，守护AI供应链安全
AIShield Watchtower 是一个用于AI模型洞察与漏洞扫描的开源工具，旨在帮助开发者和安全团队深入理解AI模型的行为，并识别潜在的安全风险。它通过分析模型文件、检查训练数据、评估模型鲁棒性等方式，为AI供应链提供安全保障。核心能力包括模型可视化、漏洞检测、风险评估和报告生成，支持多种常见的AI模型格式。该工具特别关注AI模型在部署前的安全性，帮助用户发现模型可能存在的后门、偏见或对抗性攻击的脆弱点，从而在AI应用上线前进行加固。作为早期项目，它提供了命令行接口和基本的报告输出，适合集成到CI/CD流程中。
Adversarial Robustness Toolbox (ART)、Counterfit、TensorFlow Privacy
watchtower 是评测安全领域的开源项目，由 bosch-aisecurity-aishield 开发，2023 年首次发布。
它收录于评测安全分类，该分类目前共有 466 个项目，GitHub 星标数为 203。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-05-16。开源工具，Apache-2.0 许可证，可自由使用和部署，无付费版本。
它主要面向的使用场景是：AI模型上线前的安全审计。同类可对比的替代方案包括 Adversarial Robustness Toolbox (ART)、Counterfit、TensorFlow Privacy。
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门，防提示注入和隐私泄露
The fastest Trust Layer for AI Agents
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
