给AI系统做安全体检，用统一框架识别和缓解风险
secure-ai-tooling 是 CoSAI（人工智能安全联盟）推出的风险图谱框架，旨在帮助团队识别、分析和缓解 AI 系统中的安全风险。传统软件安全实践往往不足以应对 AI 特有的威胁，该项目通过提供一套共享的风险分类和通用语言，覆盖 AI 开发生命周期中的独特安全挑战。其核心能力包括：结构化梳理 AI 系统风险（如提示注入、模型窃取、数据投毒等）、提供风险缓解策略参考、以及促进跨团队对 AI 安全问题的统一认知。项目以 Python 为基础，面向 AI 工程师、安全团队和合规人员，可作为 AI 应用安全评估的起点工具。目前处于早期阶段（98 星），文档和社区生态仍在建设中。
OWASP Top 10 for LLM Applications、MITRE ATLAS、AI Security Framework (NIST)
secure-ai-tooling 是评测安全领域的开源项目，由 cosai-oasis 开发，2025 年首次发布。
它收录于评测安全分类，该分类目前共有 458 个项目，GitHub 星标数为 97。
项目目前处于活跃维护状态，最近一次代码更新于 2026-09-18。Apache-2.0 许可证，完全免费，无付费版本。
它主要面向的使用场景是：AI应用上线前的安全风险评估。同类可对比的替代方案包括 OWASP Top 10 for LLM Applications、MITRE ATLAS、AI Security Framework (NIST)。
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门，防提示注入和隐私泄露
The fastest Trust Layer for AI Agents
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
