project-quarry

用声明式规则给 AI Agent 装上一道可审计的检查关卡

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 14 🐛 待处理 21
GitHub ↗
GitHub 星标 ★ 100
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,免费使用

项目预览

project-quarry 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队cisco-ai-defense
定价模式🏷️完全免费
价格说明开源项目,免费使用
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型agent-security,agent-security-tools,agentic-guardrails,agents,ai-agents,ai-governance,ai-governance-tools,detection-as-code,detection-engineering,detection-rules,dsl,guardrails,quarry,quarry-dsl,runtime-security,threat-detection
GitHub 星标★ 100
上线时间2026-10-27 00:00:00
代码更新2026-11-16
仓库体积2.1 MB
本站数据更新2026-11-17
维护状态活跃
收录时间2026-11-17
浏览次数0

项目介绍

project-quarry 是一个面向 AI Agent 的检测 DSL 与执行引擎,核心思路是把安全与治理规则写成可读、可版本化的检测表达式,再由引擎在 Agent 运行过程中统一求值。它解决的是 Agent 行为难以被结构化审计和约束的问题:传统做法把判断逻辑硬编码在业务代码里,规则分散、难以复用和评审,而该项目将检测逻辑从代码中抽离为声明式规则,便于集中维护与迭代。核心能力包括定义检测规则语法、加载并执行规则、对 Agent 的输入输出与工具调用等环节做匹配判定,从而支撑护栏、合规检查与异常行为识别等场景。项目使用 Python 实现,标签覆盖 agent 安全、护栏与 AI 治理方向,定位偏基础设施层,适合作为 Agent 安全策略的统一表达层。当前星标约 100,属于早期项目,规则语法与引擎接口仍可能调整,接入前建议先评估其规则表达力是否覆盖自身策略需求。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-11-17 · 当前星标 ★ 100

核心亮点

  • 把检测逻辑从业务代码抽离为声明式 DSL,规则可评审、可复用、可版本管理
  • 提供独立执行引擎,规则定义与求值分离,便于在 Agent 链路中统一接入
  • 聚焦 Agent 安全与治理场景,标签与定位清晰,适合作为策略表达层的基础设施

不足之处

  • 早期项目,规则语法与引擎 API 可能频繁变动,稳定性待观察
  • 文档与社区生态尚不成熟,缺少丰富的规则示例和接入指南

适用场景

  • 为自研 AI Agent 增加输入输出内容检查与行为约束
  • 企业 AI 治理中集中维护一套可审计的 Agent 安全策略
  • 多 Agent 系统中统一执行合规规则并记录判定结果

替代项目

Guardrails AI、NeMo Guardrails、LLM Guard

上一篇:dsh-confirm-gate

下一篇:没有了!

同类项目推荐

tau2-bench 开源

测测你的AI智能体,会不会在真实客服场景中翻车

τ-Bench: A Benchmark for Tool-Agent-User Interaction in Real-World Domains

★ 2460 2026-08-09
LooGLE 开源

测长文本模型真实力,看它能否抓住长文关键

ACL 2024 | LooGLE: Long Context Evaluation for Long-Context Language Models

★ 203 2026-08-09
lm_understand-logs 开源

把神经网络权重当文本,让大模型读懂并生成

Complete logs of the experiments in the blog post 'LLMs can understand and write neu···

★ 1255 2026-11-07
LLMEval-1 开源

17类453题+2186人标注,中文大模型评测数据即取即用

[AAAI 2024] LLMEval Phase I dataset — 17 categories, 453 questions, 2186 annotators···

★ 114 2026-10-23
rsi_eval 开源

一条命令跑通 agent 自我改进的多轮基准评测

A lightweight Python SDK and CLI for evaluating recursive self-improvement (RSI) met···

★ 470 2026-11-05
Awesome-LLM-Reasoning 开源

一份清单,看懂 LLM 推理从 CoT 到 o1 的进化史

From Chain-of-Thought prompting to OpenAI o1 and DeepSeek-R1

★ 3714 2026-08-09
www-project-agent-memory-guard 开源

给AI智能体记忆加把锁,防投毒防操控

Runtime defense against memory poisoning in AI agents (OWASP ASI06). Drop-in for Lan···

★ 204 2026-08-09
Awesome-Diffusion-Flow-RL 开源

扩散与流模型的强化学习论文工具一网打尽

A curated list of papers and tools for reinforcement learning and reward optimizatio···

★ 108 2026-11-12
hash-hop 开源

自动生成超长文本定位题,快速测出模型长上下文真本事

Long context evaluation for large language models

★ 230 2026-09-25