plexiglass

给大模型做安全体检，提前发现提示注入与越狱风险

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 评测安全 🍴 复刻 18 🐛 待处理 4 👀 关注 5
GitHub ↗
GitHub 星标 ★ 156
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费工具包，无付费信息

项目预览

plexiglass 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类评测安全
开发团队w4-advisory
GitHubhttps://github.com/w4-advisory/plexiglass
定价模式🏷️完全免费
价格说明开源免费工具包，无付费信息
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型adversarial-attacks,adversarial-machine-learning,cybersecurity,deep-learning,deep-neural-networks,machine-learning,security
GitHub 星标★ 156
上线时间2020-11-12 00:00:00
代码更新2026-11-04
仓库体积21.2 MB
本站数据更新2026-11-11
维护状态活跃
收录时间2026-11-11
浏览次数0

项目介绍

Plexiglass 是一个面向大语言模型（LLM）的漏洞检测与防护工具包，核心目标是把传统安全测试的思路迁移到生成式模型上。它提供对抗性攻击样本的构造与评测能力，帮助开发者在上线前发现模型在提示注入、越狱诱导、有害内容生成等方面的薄弱点，并给出相应的防护或缓解手段。项目以 Python 实现，覆盖对抗样本生成、模型鲁棒性评测与安全防护策略等环节，适合作为 LLM 安全评估流程中的一环。对于需要做模型安全基线检查、红队测试或合规审查的团队，它提供可复用的攻击与防御组件，降低自行搭建评测脚本的成本。当前星标约 156，属于早期项目，接口和覆盖范围仍在演进，建议结合自身业务场景做二次封装与验证。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-11-11 · 当前星标 ★ 156

核心亮点

  • 同时提供攻击样本生成与防护策略，评测与缓解形成闭环
  • 聚焦 LLM 对抗性安全场景，覆盖提示注入、越狱等常见风险面
  • Python 实现，便于集成到现有模型评测与 CI 流程中

不足之处

  • 早期项目，星标与社区规模较小，接口稳定性与文档完善度待观察
  • 攻击覆盖面与防护效果需结合具体模型版本自行验证，缺少大规模基准结论

适用场景

  • 模型上线前的安全基线评测与红队测试
  • 对提示注入、越狱等风险做对抗样本回归测试
  • 安全团队构建 LLM 漏洞检测与防护原型流程

替代项目

garak、PyRIT、promptfoo

上一篇：LLM-Factuality-Survey

下一篇：PassLLM

同类项目推荐

RVCBench 开源

给语音克隆模型做安全体检，防伪造保隐私

Comprehensive voice cloning evaluation: seven automatic speech metrics and ready-to-···

★ 59 2026-08-09
Gym 开源

把模型丢进环境里跑，边评测边改进智能体

Evaluate and improve models and agents using environments

★ 1326 2026-09-16
WatermarkDM 开源

给AI生成的图像打上隐形水印，一键溯源防滥用

[Tech report]: A Recipe for Watermarking Diffusion Models

★ 155 2026-08-09
deepteam 开源

自动模拟越狱攻击，提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 3094 2026-09-12
inspect-robots 开源

一套接口，把任意 VLA 模型放到任意机器人上跑分

Open source evals for physical AI. Run any LLM/VLA on any arm/humanoid against any r···

★ 753 2026-09-14
hawk 开源

把 Inspect AI 评测搬到云端批量跑

Run Inspect AI evals in the cloud

★ 107 2026-11-05
TAB 开源

统一评测时间序列异常检测方法，公平对比选最优

[PVLDB 2025] TAB: Unified Benchmarking of Time Series Anomaly Detection Methods

★ 146 2026-08-09
vigil-llm 开源

给LLM输入装个安检门，拦截提示注入和越狱攻击

⚡ Vigil ⚡ Detect prompt injections, jailbreaks, and other potentially risky Large···

★ 509 2026-08-09
crab 开源

跨环境测试你的AI智能体，看它真实干活行不行

️ CRAB: Cross-environment Agent Benchmark for Multimodal Language Model Agents. htt···

★ 433 2026-08-09