AISecurity

在自有数据上测 AI 护栏,搞懂攻击与评测边界

开源 🏷️基础免费,高级付费 ⏳ 访问状态待核验 评测安全 🍴 复刻 19
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 113
维护状态 活跃
是否开源 开源
定价模式 🏷️基础免费,高级付费 支持限时试用 · 开源工具免费,spectorn.ai 提供在线防护服务,定价待确认

项目预览

AISecurity 项目界面预览图
图片来源:项目官网

项目数据

分类评测安全
开发团队DmitrL-dev
定价模式🏷️基础免费,高级付费
价格说明开源工具免费,spectorn.ai 提供在线防护服务,定价待确认
访问状态⏳ 访问状态待核验
是否开源是
开源协议Apache-2.0
主要语言Go
技术栈/模型adversarial-attacks,agentic-ai-security,ai-firewall,ai-red-team,ai-safety,ai-security,ai-security-academy,cybersecurity,guardrails,jailbreak-detection,llm-evaluation,llm-security,llm-security-training,mcp-security,owasp-llm-top-10,prompt-injection,python,rag-security
GitHub 星标★ 113
上线时间2025-12-09 00:00:00
代码更新2026-11-16
仓库体积420.3 MB
本站数据更新2026-11-17
维护状态活跃
收录时间2026-11-17
浏览次数0

项目介绍

AISecurity 是一套面向 AI 应用安全的学习与测试工具集,主要帮助开发者理解 AI 应用会遭受哪些攻击,并在自有数据上验证防护措施是否有效。项目包含英文和俄文的安全学院内容、Guard Lab 防护实验环境以及 eval-bounds 评测边界工具,覆盖对抗攻击、智能体安全、AI 防火墙、红队测试等方向。核心能力包括:用真实攻击样例讲解 AI 应用的风险点;让用户在自有数据上测试防护规则或护栏的效果;以及评估一次安全测试结果究竟能证明什么,避免过度解读评测结论。项目用 Go 编写,附带在线实时防护服务入口,适合安全工程师、AI 应用开发者和评测人员作为入门与实验平台使用。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-11-17 · 当前星标 ★ 113

核心亮点

  • 提供 Guard Lab,可在自有数据上实测防护规则效果,而非只看理论
  • 附带 EN/RU 双语安全学院内容,覆盖对抗攻击、智能体安全等主题
  • eval-bounds 关注评测结论的证明边界,帮助避免过度解读安全测试结果

不足之处

  • 项目处于早期,星标约 113,生态与案例积累有限
  • 以学习实验为主,生产级防护能力需结合其他方案评估

适用场景

  • 安全工程师学习 AI 应用常见攻击手法
  • 开发者在自有数据上验证护栏或过滤规则
  • 评测人员判断一次安全测试结果的可信范围

替代项目

garak、PyRIT、promptfoo

上一篇:uaef

下一篇:dsh-confirm-gate

同类项目推荐

glide 开源

让 GenAI 评测从手工对比变成可复用流程

Helping humans ride the GenAI evaluation wave

★ 120 2026-11-16
param 开源

参数化基准组合,一键测出训练推理平台真实性能

PArametrized Recommendation and Ai Model benchmark is a repository for development o···

★ 156 2026-10-31
SECA 开源

用语义等价攻击,自动逼出 LLM 的幻觉破绽

[NeurIPS 2025] SECA: Semantically Equivalent and Coherent Attacks for Eliciting LLM ···

★ 73 2026-08-09
S-Eval 开源

一键自动化评估大模型安全,覆盖多风险场景

S-Eval: Towards Automated and Comprehensive Safety Evaluation for Large Language Mod···

★ 123 2026-08-09
clean-fid 开源

让 FID 分数更可信,生成模型评估不踩坑

PyTorch - FID calculation with proper image resizing and quantization steps [CVPR 20···

★ 1171 2026-08-09
SemBench 开源

给语义查询引擎跑分,选型不再靠猜

Benchmarking Semantic Query Processing Engines

★ 70 2026-08-09
evaluation-guidebook 开源

学透 LLM 评估,避开 benchmark 陷阱,科学选模型。

Sharing both practical insights and theoretical knowledge about LLM evaluation that ···

★ 2166 2026-08-09
Video-Bench 开源

用AI自动给视频生成模型打分,快速比出谁更强

Video Generation Benchmark

★ 82 2026-08-09