guardana

给 AI 模型和智能体做上线前的安全体检

开源 🏷️定价信息待确认 ⏳ 访问状态待核验 评测安全 🍴 复刻 16 🐛 待处理 29 👀 关注 2
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 281
维护状态 活跃
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

guardana 项目界面预览图
图片来源：项目官网

项目数据

分类评测安全
开发团队guardana
官网地址https://guardana.dev
GitHubhttps://github.com/guardana/guardana
定价模式🏷️定价信息待确认
价格说明开源项目，定价信息待确认
访问状态⏳ 访问状态待核验
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型agent-security,ai-agents,ai-red-teaming,ai-safety,ai-security,devsecops,llm-security,mcp,ml-security,mlsecops,model-context-protocol,model-security,opentelemetry,owasp-llm,prompt-injection,python,red-teaming,sarif,security-tools,supply-chain-security
GitHub 星标★ 281
上线时间2026-07-18 00:00:00
代码更新2026-10-29
仓库体积23.4 MB
本站数据更新2026-10-30
维护状态活跃
收录时间2026-10-30
浏览次数0

项目介绍

Guardana 是一个面向 AI 安全验证的开源工具，用可复现的证据支撑模型发布决策。它把模型制品、在线推理端点、MCP 服务器以及录制下来的智能体运行轨迹都当作待测对象，围绕这些对象执行安全检测并输出可审计的结果。项目解决的核心问题是：AI 系统上线前缺少统一、可重复的安全验证手段，团队难以判断模型文件是否被篡改、端点是否存在提示注入或越权风险、MCP 工具链是否暴露敏感能力、智能体轨迹中是否出现危险行为。核心能力包括对模型制品做完整性校验、对在线端点做黑盒安全探测、对 MCP 服务器做能力与权限面梳理、对智能体轨迹做回放式分析，并把每次检测固化为可复现的证据链，便于在发布评审、合规审计和 DevSecOps 流水线中引用。项目用 Python 实现，定位为 AI 红队与 MLSecOps 场景下的验证基础设施，适合安全团队和平台团队在 CI 中集成。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-10-30 · 当前星标 ★ 281

核心亮点

  • 覆盖模型制品、在线端点、MCP 服务器、智能体轨迹四类对象，验证面比单一扫描工具更完整
  • 强调可复现证据，检测结果能直接用于发布评审和审计留痕，而不只是给出一个风险分数
  • Python 实现且面向 DevSecOps 流水线设计，便于集成到 CI 和自动化发布流程

不足之处

  • 项目处于早期阶段，星标数较少，检测规则和插件生态尚不丰富
  • 文档与社区规模有限，遇到问题时可参考的案例和讨论不多

适用场景

  • 模型发布前对模型制品做完整性与安全基线检查
  • 对已上线的推理端点做提示注入和越权访问探测
  • 接入 MCP 工具链的智能体系统上线前做能力面与权限审计

替代项目

garak、PyRIT、promptfoo

上一篇：Zero-Breach-Toolkit

下一篇：skill-validator

同类项目推荐

datafog-python 开源

给 AI 应用装个本地隐私闸门，敏感信息不出门。

Offline PII firewall for AI agents and LLM apps: fast local detection and redaction,···

★ 80 2026-08-09
pII-guard 开源

用 LLM 智能识别日志中的隐私信息，轻松满足 GDPR 合规。

️ PII Guard is an LLM-powered tool that detects and manages Personally Identifiable···

★ 114 2026-08-09
Awesome-LLMSecOps 开源

一库在手，LLM 安全运营全链路资源速查

LLM | Agentic | Security | Operations in one github repo with good links and picture···

★ 167 2026-08-10
confabulations 开源

测出RAG系统胡说八道，用人工验证问答对量化幻觉

Hallucinations (Confabulations) Document-Based Benchmark for RAG. Includes human-ver···

★ 250 2026-08-09
stt-benchmark 开源

统一测 STT 首字延迟与语义准确率，选型有据

Benchmarking STT service TTFB and semantic WER for real-time AI applications

★ 137 2026-10-26
eval 开源

用真实编码任务测出大模型真实力，结果公开可对比

Public results and task definitions for FrontierHarness Eval

★ 323 2026-09-05
AlignBench 开源

测中文大模型对齐能力，多维打分看清模型强弱

大模型多维度中文对齐评测基准 (ACL 2024)

★ 432 2026-08-09
awesome-ai-testing 开源

一页清单看懂 AI 测试工具，选型不再东拼西凑

A curated list of AI-powered testing tools, frameworks, and resources for QA enginee···

★ 164 2026-09-25
sim-evals 开源

把机器人策略丢进仿真跑分，省下真机评测的麻烦

A simulation evaluation platform for DROID

★ 243 2026-09-14