PyRIT

像红队一样自动攻击自家大模型,提前挖出安全漏洞

开源 free 评测安全
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 4654
维护状态 活跃
是否开源 是
定价模式 free

项目预览

项目数据

分类评测安全
开发团队microsoft
所属国家
定价模式free
价格说明开源免费,MIT许可证
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ai-red-team,generative-ai,red-team-tools,responsible-ai
GitHub 星标★ 4654
30天Star增速
HF 下载量
上线时间2023-12-12 00:00:00
代码更新—
仓库体积—
本站数据更新—
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-10-20
浏览次数0

项目介绍

PyRIT 是微软开源的生成式 AI 风险识别工具,面向安全工程师和红队人员,用于主动发现大模型与生成式 AI 系统中的安全风险。它解决的是 AI 应用上线前缺乏系统化攻击测试手段的问题:把提示注入、越狱、数据泄露、有害内容生成等攻击手法工程化、可编排化。核心能力包括多轮对话攻击编排、攻击策略库、评分器自动判定攻击是否成功、与 Azure OpenAI 等模型端点对接,以及结果记录与复现。相比手工写脚本测试,PyRIT 提供统一抽象,让红队流程可复用、可扩展、可量化,适合把 AI 安全评测纳入持续集成与合规审计。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

正在加载星标数据…

技术标签

使用教程

—

难度:入门 约 15 分钟 部署方式:库/依赖 5 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • Python 环境(PyRIT 为 Python 项目,具体版本要求见官网文档)
  • 可访问 GitHub 与官网 https://microsoft.github.io/PyRIT/ 的网络
  • 用于对接的模型端点凭据(如 Azure OpenAI),具体配置方式见官网

安装与启动步骤

  1. 1查阅官方安装文档

    本项目 README 未给出安装命令,安装与使用说明以官网文档为准,先打开官网确认最新安装方式。

  2. 2获取项目源码

    从 GitHub 克隆 PyRIT 仓库到本地,后续按仓库内文档与官网指引操作。

    git clone https://github.com/microsoft/PyRIT.git
  3. 3进入项目目录

    切换到克隆下来的项目根目录,查看仓库内的说明文档再继续。

    cd PyRIT
  4. 4按官网指引安装

    依照官网安装章节执行安装(README 未提供具体包名与命令,请以官网为准,勿自行猜测参数)。

  5. 5接入模型端点

    按官网说明配置要测试的生成式 AI 端点凭据,然后运行官方示例验证连通性。

如何确认成功

能按官网示例成功调用已配置的模型端点并产出测试记录,即视为环境可用。

常见问题

Q:为什么没有具体的 pip 安装命令?

A:README 节选只给出官网与社区入口,未包含安装命令。请以官网 https://microsoft.github.io/PyRIT/ 的安装说明为准,避免使用过期或错误的包名。

Q:需要什么模型服务才能使用?

A:PyRIT 用于对生成式 AI 系统做红队测试,需要对接模型端点(如 Azure OpenAI)。具体支持的端点类型与凭据配置请查阅官网文档。

Q:遇到问题去哪里求助?

A:可加入官方 Discord 社区 https://discord.gg/9fMpq3tc8u 交流;安全问题请通过仓库 security policy 中的 Microsoft Security Response Center 私下上报。

Q:可以用于商业或研究项目吗?

A:可以,但涉及微软商标与标识的使用需遵循 Microsoft 商标与品牌指南;学术研究中引用请参考 README 给出的论文引用方式。

注意事项

  • 本教程依据的 README 节选未包含安装命令,所有安装细节须以官网文档为准。
  • PyRIT 属于安全测试工具,请仅在获得授权的目标与环境中使用。
  • 注意妥善保管模型端点密钥,不要提交到代码仓库或公开分享。
  • 发现安全漏洞请按仓库 security policy 私下上报,勿公开披露。

核心亮点

  • 提供攻击编排器与多轮对话策略,能把提示注入、越狱等攻击流程工程化复用
  • 内置评分器自动判定攻击是否成功,减少人工看结果的工作量
  • 微软维护、文档和示例较完整,支持对接多种模型端点,便于落地红队流程

不足之处

  • 偏红队攻击框架,缺少开箱即用的合规评测基准与行业标准数据集
  • 攻击策略与评分器需要一定安全经验才能配置好,新手门槛不低

适用场景

  • 大模型应用上线前做安全红队测试
  • 企业 AI 安全团队搭建自动化攻击评测流水线
  • 合规审计中量化生成式 AI 的风险暴露面

替代项目

garak、promptfoo

上一篇:julius

下一篇:没有了!

同类项目推荐

hanshuang-codex 开源

桌面端批量测大模型越狱提示,一键跑实验看边界

针对GPT 6.0,workbuddyV4.1flash的破甲实验项目

★ 237 2026-09-28
akto 开源

给 AI 应用做安全体检,防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1530 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾,自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 166 2026-08-10
deepteam 开源

自动模拟越狱攻击,提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 3028 2026-09-12