ai-privacy-toolkit

给 AI 模型做隐私体检，快速发现合规风险

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 基础设施 🍴 复刻 46 🐛 待处理 15 👀 关注 9
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 113
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源工具包，MIT 许可证，完全免费，可自行部署使用。

项目预览

ai-privacy-toolkit 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类基础设施
开发团队IBM
官网地址https://aip360.res.ibm.com
GitHubhttps://github.com/IBM/ai-privacy-toolkit
定价模式🏷️完全免费
价格说明开源工具包，MIT 许可证，完全免费，可自行部署使用。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ai,ai-models,anonymization,artificial-intelligence,gdpr,machine-learning,ml,mlops,privacy,python,trustworthy-ai
GitHub 星标★ 113
上线时间2021-04-28 00:00:00
代码更新2026-09-19
仓库体积1.6 MB
本站数据更新2026-11-09
维护状态维护中
收录时间2026-08-09
浏览次数4

项目介绍

ai-privacy-toolkit 是一个面向 AI 模型隐私与合规的 Python 工具包，旨在帮助开发者和企业在使用 AI 模型时满足隐私保护与法规要求。它解决的核心问题是 AI 模型在训练、部署和推理过程中可能涉及的敏感数据泄露、模型逆向攻击、成员推断攻击等隐私风险，以及 GDPR 等合规性挑战。该工具包提供了一系列实用工具和技术，涵盖数据脱敏、模型审计、隐私影响评估、合规检查等功能模块，帮助用户识别和缓解 AI 系统中的隐私漏洞。通过集成常见的隐私保护技术（如差分隐私、联邦学习支持等），它使开发者能够在不牺牲模型性能的前提下增强隐私保护能力。项目处于早期阶段，API 设计简洁，易于扩展，适合作为 AI 隐私工程实践的起点。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 113

核心亮点

  • 聚焦 AI 隐私与合规，细分场景明确，填补通用工具空白
  • 提供从数据到模型的多层次隐私检查能力，覆盖面广
  • Python 实现，易于集成到现有 ML 工作流中

不足之处

  • 项目处于早期，文档和示例可能不够完善
  • 功能模块的成熟度和稳定性有待社区验证

适用场景

  • AI 产品上线前的隐私合规自查
  • 企业内审 AI 模型的数据处理流程
  • 研究机构评估模型隐私泄露风险

替代项目

Microsoft Presidio、IBM AI Fairness 360、TensorFlow Privacy

上一篇：www-project-machine-learning-security-top-10

下一篇：nannyml

同类项目推荐

aegis 开源

给大模型装上会自我进化的安全防火墙

Self-hardening firewall for large language models

★ 269 2026-08-09
Zero-Breach-Toolkit 开源

离线自查设备是否留有已知间谍软件痕迹

Free, open-source check for traces of mercenary spyware (Pegasus, Predator, Graphite···

★ 4590 2026-10-29
RiOSWorld 开源

测出你的电脑智能体有多“手贱”，防翻车必备

[NeurIPS 2025] Official repository of RiOSWorld: Benchmarking the Risk of Multimodal···

★ 126 2026-08-09
promptpex 开源

自动生成提示词测试用例，让 Prompt 迭代更稳更高效

Test Generation for Prompts

★ 165 2026-08-09
oss-fuzz-gen 开源

用大模型自动写模糊测试，一键发现代码漏洞

LLM powered fuzzing via OSS-Fuzz.

★ 1453 2026-08-09
awesome-cyber-ai-arsenal 开源

一站式导航AI安全攻防工具，快速定位所需资源

A curated collection of offensive, defensive and AI/LLM security tools.

★ 185 2026-08-09
ps-fuzz 开源

自动模糊测试系统提示词，找出越狱漏洞并加固

Make your GenAI Apps Safe & Secure :rocket: Test & harden your system prompt

★ 718 2026-09-16
AdvUnlearn 开源

对抗训练让概念擦除更抗攻击，生成更安全

Official implementation of NeurIPS'24 paper "Defensive Unlearning with Adversarial T···

★ 56 2026-08-09
Robust-U1 开源

让多模态模型自己修复坏图，理解不翻车

[ICML 2026] Official Implementation of Robust-U1: Can MLLMs Self-Recover Corrupted V···

★ 355 2026-08-09