nordef-matrix-open-control

给 AI 加一道可验证的安全闸门,三态决策拦截风险

nordef-matrix-open-control 是一个面向 AI 安全管控的开源项目,定位为模型无关的“AI 安全带”。它为 AI 调用链路提供统一的准入与拦截层,核心是 0/1/2 三态决策:0 表示放行,1 表示需要人工或上级确认,2 表示直接拒绝,从而把安全判断从具体模型实现中解耦。项目使用 Ed25519 作为根信任门,对关键决策与配置进行签名校验,防止未授权篡改;同时内置重放保护,避免历史合法请求被重复利用。它还会生成证据链,记录每次决策的上下文与依据,便于审计和追责。附带的事件模式评测库(incident-pattern eval bank)可用于回归测试和红队场景,帮助团队持续验证安全策略是否覆盖已知风险模式。整体适合需要给 AI 系统加一层独立、可验证安全闸门的工程团队。

开源 free 评测安全
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 524
维护状态 较活跃
是否开源
定价模式 free

项目数据

分类评测安全
开发团队MORTEN-BUUR
所属国家
官网地址
定价模式free
价格说明开源项目,免费使用
访问状态
是否开源
开源协议MIT
主要语言Python
技术栈/模型
GitHub 星标★ 524
30天Star增速
HF 下载量
上线时间2026-08-26 00:00:00
最近更新2026-09-17 00:00:00
维护状态较活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-09-14
浏览次数0

使用教程

核心亮点

  • 采用 Ed25519 根信任门对决策与配置签名,防篡改能力强
  • 0/1/2 三态决策把放行、确认、拒绝区分开,比简单黑白名单更实用
  • 内置重放保护和证据链,决策可追溯,满足审计与合规需求

不足之处

  • 早期项目,生态与集成案例较少,落地需自行适配
  • 文档和社区规模有限,长期维护与更新节奏待观察

适用场景

  • 企业 AI 网关对模型调用做统一安全准入
  • 金融/医疗等强合规场景记录 AI 决策证据链
  • 安全团队用事件模式库做 AI 红队回归测试

替代项目

Guardrails AI、NeMo Guardrails

项目介绍

nordef-matrix-open-control 是一个评测安全领域的开源项目,官方简介:NORDEF Matrix Open Control: model-independent AI safety belt with 0/1/2 decisions, Ed25519 root gate, replay protection, evidence chain, and incident-pattern eval bank。项目使用 Python 开发,在 GitHub 上获得 498 星标。

上一篇:model-serving-minefield

下一篇:Jailbreaker-CE

同类项目推荐

akto 开源

给 AI 应用做安全体检,防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1518 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾,自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 164 2026-08-10
Tracely-ai 开源

把生产事故变成回归测试,合并前自动拦截 AI 故障

Trace-native CI/CD for AI agents — production failures become regression tests that···

★ 1403 2026-08-24