给 AI 模型做隐私体检，快速发现合规风险
ai-privacy-toolkit 是一个面向 AI 模型隐私与合规的 Python 工具包，旨在帮助开发者和企业在使用 AI 模型时满足隐私保护与法规要求。它解决的核心问题是 AI 模型在训练、部署和推理过程中可能涉及的敏感数据泄露、模型逆向攻击、成员推断攻击等隐私风险，以及 GDPR 等合规性挑战。该工具包提供了一系列实用工具和技术，涵盖数据脱敏、模型审计、隐私影响评估、合规检查等功能模块，帮助用户识别和缓解 AI 系统中的隐私漏洞。通过集成常见的隐私保护技术（如差分隐私、联邦学习支持等），它使开发者能够在不牺牲模型性能的前提下增强隐私保护能力。项目处于早期阶段，API 设计简洁，易于扩展，适合作为 AI 隐私工程实践的起点。
Microsoft Presidio、IBM AI Fairness 360、TensorFlow Privacy
ai-privacy-toolkit 是评测安全领域的开源项目，由 IBM 开发，2021 年首次发布。
它收录于评测安全分类，该分类目前共有 466 个项目，GitHub 星标数为 113。
项目目前处于活跃维护状态，最近一次代码更新于 2026-09-19。MIT 许可证，完全免费，可自行部署使用。
它主要面向的使用场景是：AI产品上线前的隐私合规自查。同类可对比的替代方案包括 Microsoft Presidio、IBM AI Fairness 360、TensorFlow Privacy。
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门，防提示注入和隐私泄露
The fastest Trust Layer for AI Agents
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
