nordef-matrix-open-control
给 AI 加一道可验证的安全闸门，三态决策拦截风险
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-09-14 · 当前星标 ★ 713
使用教程
ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。
环境要求
- Python 3.10+
安装与启动步骤
-
1克隆
先拉代码。
# 从仓库首页克隆 -
2跑单测
先确认基线通过。
PYTHONPATH=src python3 -m unittest discover -s tests -v -
3跑评测
用内置评测脚本验证策略。
PYTHONPATH=src python3 scripts/run_eval.py -
4接自己的策略
把策略实现挂到接口上。
# 实现策略接口并注册
如何确认成功
单测全绿，评测输出通过率与拒绝记录。
注意事项
- 它把审批与回放保护放在模型之外。
- 策略实现错误会导致全部拒绝，先看日志。
核心亮点
- 采用 Ed25519 根信任门对决策与配置签名，防篡改能力强
- 0/1/2 三态决策把放行、确认、拒绝区分开，比简单黑白名单更实用
- 内置重放保护和证据链，决策可追溯，满足审计与合规需求
不足之处
- 早期项目，生态与集成案例较少，落地需自行适配
- 文档和社区规模有限，长期维护与更新节奏待观察
适用场景
- 企业 AI 网关对模型调用做统一安全准入
- 金融/医疗等强合规场景记录 AI 决策证据链
- 安全团队用事件模式库做 AI 红队回归测试
替代项目
Guardrails AI、NeMo Guardrails
同类项目推荐
damn-vulnerable-ai-agent
开源
故意留洞的 AI Agent 靶场，拿来练提示注入和越权
Damn Vulnerable AI Agent is a deliberately vulnerable AI agent platform for security···
heretic
开源
一键去除模型审查，解锁无限制回答
Training-free language model modification: Remove censorship, suppress slop, reduce ···
Workspace-Bench
开源
在真实文件海洋中，检验智能体自我进化能力
Benchmark self-evolving Agent upon realistic large-scale file workspaces
awesome-data-contamination
开源
查论文，避坑LLM评估数据污染
The Paper List on Data Contamination for Large Language Models Evaluation.
M3Exam
开源
全球大模型谁更聪明？多语言考卷测出真实力
Data and code for paper "M3Exam: A Multilingual, Multimodal, Multilevel Benchmark fo···
AgentHound
开源
像 BloodHound 一样测绘 AI 智能体攻击路径，快速发现安全弱点。
Offensive security framework for AI agent infrastructure - recon, credential looting···
agentgg
开源
百个AI安全智能体，扫仓库和PR，自动挖漏洞
Open source agentic SAST. The engine behind hundreds of disclosed zero-days. 100+ AI···
Awesome-LLM-Reasoning
开源
一份清单，看懂 LLM 推理从 CoT 到 o1 的进化史
From Chain-of-Thought prompting to OpenAI o1 and DeepSeek-R1
skill-validator
开源
一条命令检查 Agent Skill 写得对不对、够不够扎实
Validate Skill content against Agent Skill specification, with additional content de···