OpenAPPA

给 AI Agent 加确定性护栏,安全不打断任务

OpenAPPA 是一个用 Rust 编写的确定性护栏(guardrails)系统,面向 AI Agent 的安全与合规场景。它要解决的问题是:传统基于概率模型或提示词的护栏容易误判、漏判,并且会打断 Agent 的正常执行流程,导致任务失败或体验下降。OpenAPPA 通过确定性的规则与策略引擎,对 Agent 的输入输出、工具调用、外部访问等行为进行实时校验与拦截,在不破坏 Agent 自主性的前提下提供可预测、可审计的安全边界。核心能力包括:确定性策略执行、低延迟拦截、与 Agent 框架解耦的集成方式,以及面向安全场景的审计与日志能力。项目使用 Rust 实现,强调性能与可靠性,适合对安全要求较高的生产环境。

开源 unknown 评测安全
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 1498
维护状态 活跃
是否开源 是
定价模式 unknown

项目预览

项目数据

分类评测安全
开发团队archestra-ai
所属国家
定价模式unknown
价格说明定价信息待确认
访问状态
是否开源是
开源协议MIT
主要语言Rust
技术栈/模型guardrails,guardrails-ai,security
GitHub 星标★ 1498
30天Star增速
HF 下载量
上线时间2026-08-18 00:00:00
代码更新—
仓库体积—
本站数据更新—
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-10-09
浏览次数0

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

正在加载星标数据…

技术标签

使用教程

—

难度:进阶 约 20 分钟 部署方式:库/依赖 6 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • Rust 运行环境(项目由 Rust 实现,README 未给出版本要求)
  • Agent 与其工具之间的调用链路,用于插入校验点
  • 可写的审计/事件日志,引擎决策完全依赖它
  • 按官网 Policy reference 自行编写的 TOML 策略文件

安装与启动步骤

  1. 1确认部署形态

    README 说明 OpenAPPA 位于 Agent 与工具之间,可进程内运行,也可作为 sidecar 进程在每次工具调用前检查,先选定形态。

  2. 2准备 Rust 环境

    项目使用 Rust 实现,README 未提供安装或构建命令,请以官网 openappa.com 与仓库最新文档为准。

  3. 3编写 TOML 策略

    策略为声明式 TOML,语法见官网 Policy reference,需明确每类数据允许流向哪些工具目标。

  4. 4接入调用前校验

    在每次工具调用真正执行之前向 OpenAPPA 发起校验,判断这份数据是否允许发往该目标。

  5. 5接入事件日志

    引擎只依据事件日志做判定,需把 Agent 读取与调用的行为完整写入日志,决策才能复现。

  6. 6用基准验证

    在 Bench-Corp 基准上对比结果,确认既不放过未授权数据流,也没有拒绝合法的正常任务。

如何确认成功

在 Bench-Corp 基准上复核:未授权数据流被拦截、合法任务通过,且同一日志重复运行给出相同决策。

常见问题

Q:引擎会联网或读写文件吗?

A:不会。README 明确说明引擎只根据事件日志决策,不发起网络或文件调用,因此同一份日志永远得到同一个判定结果。

Q:策略用什么格式编写?

A:声明式 TOML。具体字段与写法请查阅官网 Policy reference(openappa.com/contracts),README 未给出示例策略。

Q:怎么和 Agent 集成?

A:两种方式:在 Agent 进程内直接运行,或作为 sidecar 进程运行,在每次工具调用执行前完成检查。

Q:它和分类器、PII 检测器有什么区别?

A:分类器与 PII 检测器是概率性的,可能误判漏判;OpenAPPA 的权限校验是确定性的,每次运行结果一致。

Q:有现成的安装命令吗?

A:README 节选中没有提供安装、构建或运行命令,请以官网文档和仓库最新说明为准。

注意事项

  • 本教程严格依据 README 节选整理,README 未给出安装命令,因此步骤中没有可执行命令。
  • 策略文件需自行按官网 Policy reference 编写,配置项名称请以后续官方文档为准。
  • 确定性来自“只依据事件日志决策”,集成时不要引入外部可变状态,否则会破坏可复现性。
  • 上线前建议先在 Bench-Corp 基准上同时评估“放行未授权流”和“误拒正常任务”两个方向。

核心亮点

  • Rust 实现,确定性强、性能开销低,适合高并发 Agent 场景
  • 策略与 Agent 逻辑解耦,不依赖提示词,减少误判和漏判
  • 面向安全审计设计,行为可追溯,便于合规与事故复盘

不足之处

  • 项目处于早期成长阶段,生态集成和文档完善度有待提升
  • 确定性规则需要人工维护,面对复杂开放场景的覆盖成本较高

适用场景

  • 企业内 AI Agent 执行敏感操作前的权限与合规校验
  • 多 Agent 协作系统中对工具调用和外部访问的统一拦截
  • 对安全审计有要求的金融、医疗等行业的 Agent 生产部署

替代项目

Guardrails AI、NeMo Guardrails

项目介绍

OpenAPPA 是评测安全领域的开源项目,由 archestra-ai 开发,是 2026 年新上线的项目。

在全站 13,997 个收录项目中,它的 GitHub 星标数(1,498)位列前 30%,在评测安全分类中处于中上游。

项目目前处于活跃维护状态,最近一次代码更新于 2026-10-08。

它主要面向的使用场景是:企业内AIAgent执行敏感操作前的权限与合规校验。同类可对比的替代方案包括 Guardrails AI、NeMo Guardrails。

上一篇:InjectRange

下一篇:ARTEX

同类项目推荐

akto 开源

给 AI 应用做安全体检,防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1526 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾,自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 164 2026-08-10
deepteam 开源

自动模拟越狱攻击,提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 3001 2026-09-12
Tracely-ai 开源

把生产事故变成回归测试,合并前自动拦截 AI 故障

Trace-native CI/CD for AI agents — production failures become regression tests that···

★ 1515 2026-08-24