
nordef-matrix-open-control
给 AI 加一道可验证的安全闸门,三态决策拦截风险
nordef-matrix-open-control 是一个面向 AI 安全管控的开源项目,定位为模型无关的“AI 安全带”。它为 AI 调用链路提供统一的准入与拦截层,核心是 0/1/2 三态决策:0 表示放行,1 表示需要人工或上级确认,2 表示直接拒绝,从而把安全判断从具体模型实现中解耦。项目使用 Ed25519 作为根信任门,对关键决策与配置进行签名校验,防止未授权篡改;同时内置重放保护,避免历史合法请求被重复利用。它还会生成证据链,记录每次决策的上下文与依据,便于审计和追责。附带的事件模式评测库(incident-pattern eval bank)可用于回归测试和红队场景,帮助团队持续验证安全策略是否覆盖已知风险模式。整体适合需要给 AI 系统加一层独立、可验证安全闸门的工程团队。
项目数据
使用教程
核心亮点
- 采用 Ed25519 根信任门对决策与配置签名,防篡改能力强
- 0/1/2 三态决策把放行、确认、拒绝区分开,比简单黑白名单更实用
- 内置重放保护和证据链,决策可追溯,满足审计与合规需求
不足之处
- 早期项目,生态与集成案例较少,落地需自行适配
- 文档和社区规模有限,长期维护与更新节奏待观察
适用场景
- 企业 AI 网关对模型调用做统一安全准入
- 金融/医疗等强合规场景记录 AI 决策证据链
- 安全团队用事件模式库做 AI 红队回归测试
替代项目
Guardrails AI、NeMo Guardrails
项目介绍
同类项目推荐
akto
开源
给 AI 应用做安全体检,防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾,自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
Tracely-ai
开源
把生产事故变成回归测试,合并前自动拦截 AI 故障
Trace-native CI/CD for AI agents — production failures become regression tests that···
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门,防提示注入和隐私泄露
The fastest Trust Layer for AI Agents