项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 115
核心亮点
- 将评估、防护栏和安全检测整合在一个框架内，减少多工具集成成本
- 基于 Python，易于二次开发和嵌入现有 LLM 流水线
- 针对 LLM 特有的安全问题（如提示注入）提供专门支持
不足之处
- 文档/社区待观察
- 早期项目，功能成熟度和稳定性有待验证
适用场景
- LLM 应用上线前的质量与安全评估
- 生产环境中实时拦截有害或违规输出
- 安全团队对 LLM 进行合规审计与风险监控
替代项目
LangKit、Guardrails AI、Rebuff
上一篇：parea-sdk-py
下一篇：empirical
同类项目推荐
LLMRouterBench
开源
把各家大模型路由方法拉到同一张考卷上比高低
[Findings@ACL'26] LLMRouterBench: A Massive Benchmark and Unified Framework for LLM ···
LLMEval-1
开源
17类453题+2186人标注，中文大模型评测数据即取即用
[AAAI 2024] LLMEval Phase I dataset — 17 categories, 453 questions, 2186 annotators···
awesome-data-contamination
开源
查论文，避坑LLM评估数据污染
The Paper List on Data Contamination for Large Language Models Evaluation.
dodoguard
开源
给 AI Agent 加一道全流程安全护栏，防注入防越权
DodoGuard: Take AI Agents to Production. Test, validate, and operate AI Agents befor···
AI-ML-Free-Resources-for-Securit···
开源
照着路线图学，从零入门 AI 渗透与提示注入
AI/ML Pentesting Roadmap for Beginners
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
EasyJailbreak
开源
一键生成越狱提示词，快速测评大模型安全防线
An easy-to-use Python framework to generate adversarial jailbreak prompts.
nannyml
开源
模型上线后，用 nannyml 自动盯漂移和性能，提前报警
nannyml: post-deployment data science in python
PromptInject
开源
模块化组装提示词，量化评估LLM对抗攻击的鲁棒性。
PromptInject is a framework that assembles prompts in a modular fashion to provide a···