auto_LiRPA

给神经网络算严格上下界，验证对抗鲁棒性

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 评测安全 🍴 复刻 109 🐛 待处理 21 👀 关注 7
GitHub ↗
GitHub 星标 ★ 358
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费，论文见 arXiv

项目预览

auto_LiRPA 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类评测安全
开发团队Verified-Intelligence
GitHubhttps://github.com/Verified-Intelligence/auto_LiRPA
定价模式🏷️完全免费
价格说明开源免费，论文见 arXiv
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议NOASSERTION
主要语言Python
技术栈/模型adversarial-defense,adversarial-examples,adversarial-machine-learning,certified-defense-models,crown-bound,ibp-bounds,robustness,robustness-verification
GitHub 星标★ 358
上线时间2020-03-02 00:00:00
代码更新2026-10-10
仓库体积38.2 MB
本站数据更新2026-10-23
维护状态较活跃
收录时间2026-10-23
浏览次数0

项目介绍

auto_LiRPA 是一个面向神经网络与通用计算图的自动线性松弛扰动分析库，主要用于计算神经网络输出的严格上下界，从而为对抗鲁棒性提供可证明的保证。它解决的核心问题是：如何在不做大量采样的情况下，形式化验证模型在输入扰动下输出是否稳定。库内实现了 CROWN、IBP 等经典线性松弛与区间传播算法，并支持自动构建计算图、反向传播式边界推导，可对全连接、卷积、残差等常见结构给出 certified lower/upper bound。它既可用于评估 certified defense 模型的实际鲁棒半径，也可作为对抗训练中的正则项来源，还能扩展到一般计算图的区间分析。项目以 Python 实现，接口贴近 PyTorch，便于研究者快速接入现有模型。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-10-23 · 当前星标 ★ 358

核心亮点

  • 内置 CROWN、IBP 等多种线性松弛算法，边界紧度与速度可权衡
  • 支持自动构图与反向传播式边界推导，接入 PyTorch 模型成本低
  • 可输出 certified 鲁棒半径，直接用于对抗防御模型的量化评估

不足之处

  • 仅覆盖线性松弛类方法，对非线性激活的紧致性依赖具体实现
  • 文档与示例相对研究导向，工程化集成和长期维护待观察

适用场景

  • 评估 certified defense 模型在扰动下的可证明鲁棒半径
  • 对抗训练中作为边界正则项提升模型鲁棒性
  • 对安全关键模型做形式化稳定性验证与回归测试

替代项目

alpha-beta-CROWN、ERAN

上一篇：LLMEval-1

下一篇：没有了！

同类项目推荐

opik 开源

一站式追踪、评估、监控你的 LLM 应用，从调试到上线全程掌控。

Debug, evaluate, and monitor your LLM applications, RAG systems, and agentic workflo···

★ 22827 2026-08-09
benchmark-radar 开源

一站追踪全球 AI 评测基准，每日更新可溯源

Track 33,707+ AI benchmark, eval, dataset, and data-quality records from 40 public s···

★ 303 2026-09-14
Awesome-Machine-Generated-Text 开源

一站式找全大模型生成文本的检测与分析资源

Continuously updated list of related resources for generative LLMs like GPT and thei···

★ 231 2026-08-09
VBench 开源

给视频生成模型打分，16个维度看清谁强谁弱

[CVPR2024 Highlight] VBench - We Evaluate Video Generation

★ 1829 2026-08-09
CS-Eval 开源

给网络安全大模型打分，快速找出安全能力短板

CS-Eval is a comprehensive evaluation suite for fundamental cybersecurity models or ···

★ 67 2026-08-09
CUREBench 开源

给AI看病决策打分，推动医疗AI更靠谱

CUREBench @ NeurIPS 2025: Benchmarking AI reasoning for therapeutic decision-making ···

★ 136 2026-08-09
hash-hop 开源

自动生成超长文本定位题，快速测出模型长上下文真本事

Long context evaluation for large language models

★ 229 2026-09-25
arksim 开源

模拟真实用户对话，上线前自动揪出智能体错误。

Find your agents errors be fore your real users do

★ 234 2026-08-09
LLM-Agent-Benchmark-List 开源

一站式查找 LLM 智能体评估基准，省去全网搜索时间

A banchmark list for evaluation of large language models.

★ 172 2026-08-09