项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 269
核心亮点
- 自加固机制：能根据攻击模式自动更新防护规则，减少人工维护
- 专注 LLM 场景：针对提示注入等特定威胁设计，比通用防火墙更贴合
- 轻量易集成：Python 实现，便于嵌入现有 AI 服务管道
不足之处
- 项目早期，文档和社区生态待观察
- 自加固算法可能引入额外推理延迟，影响性能
适用场景
- 企业部署 LLM API 时，保护模型免受恶意提示攻击
- AI 聊天机器人服务中，实时过滤有害输出
- 安全团队评估 LLM 应用漏洞时，作为测试防护工具
替代项目
Rebuff、Guardrails AI、LangKit
上一篇：benchmarks
下一篇：vigil-llm
同类项目推荐
awesome-jev-tools
开源
一页清单，快速找到 Jev 类型化决策的现成工具
A curated list of tools built for Jev — TypeSafe AI's System One model for typed d···
llm-eval
开源
一站式跑分，快速对比大模型与 RAG 效果
大语言模型评估平台，支持多种评估基准、自定义数据集和性能测试。支持基于自定义数据集的···
common_metrics_on_video_quality
开源
一键计算视频生成质量指标，快速对比模型效果
You can easily calculate FVD, PSNR, SSIM, LPIPS for evaluating the quality of genera···
superagent
开源
给 AI 应用装上安全盾，防注入防泄露
Superagent protects your AI applications against prompt injections, data leaks, and ···
LiveBench
开源
每月换新题，测出模型真实水平
LiveBench: A Challenging, Contamination-Free LLM Benchmark
AutoControl-Arena
开源
自动给AI找茬，提前暴露危险行为
[ICML 2026] AutoControl Arena: Frontier AI Risk Auto-Discovery Platform
fake-news
开源
手把手教你从零搭一个假新闻检测模型并上线部署
Building a fake news detector from initial ideation to model deployment
TrustLLM
开源
给大模型做全面体检，量化可信度短板
[ICML 2024] TrustLLM: LLM trustworthiness evaluation across truthfulness, safety, fa···
ARTEX
开源
让 AI 智能体自主完成渗透测试攻击链
AI 自主渗透测试系统