VerifAI

给带 AI 的系统做形式化验证，提前揪出危险场景

VerifAI 是面向含 AI/ML 组件系统的形式化设计与分析工具包，由加州大学伯克利分校团队开源。它解决的核心问题是：当系统里嵌入神经网络等学习组件后，传统形式化验证方法难以直接套用，导致安全性、鲁棒性无法被严格论证。VerifAI 提供一套 Python 工具链，把 AI 组件抽象成可被形式化方法处理的对象，支持对感知、决策模块进行系统级建模、仿真与验证。核心能力包括：基于 Scenic 的概率场景描述语言生成测试场景，对 AI 组件做有界模型检查、反例搜索与鲁棒性评估，并可与仿真器（如 CARLA）联动，用于自动驾驶等安全关键场景。它适合研究者与工程师在部署前对 AI 系统做系统性风险排查，而非仅靠经验测试。

开源 free 评测安全

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 219

维护状态较活跃

是否开源是

定价模式 free

项目预览

项目数据

分类评测安全

开发团队BerkeleyLearnVerify

所属国家

官网地址

GitHubhttps://github.com/BerkeleyLearnVerify/VerifAI

定价模式free

价格说明开源免费工具包，无在线服务

访问状态

是否开源是

开源协议BSD-3-Clause

主要语言Python

技术栈/模型

GitHub 星标★ 219

30天Star增速

HF 下载量

上线时间2019-02-06 00:00:00

代码更新—

仓库体积—

本站数据更新—

维护状态较活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-10-08

浏览次数0

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

正在加载星标数据…

技术标签

使用教程

—

核心亮点

提供 Scenic 概率场景语言，能自动生成大量边界测试场景，比手写用例覆盖更广
把神经网络组件接入形式化验证流程，支持反例搜索与鲁棒性量化分析
与 CARLA 等仿真器集成，可直接用于自动驾驶等安全关键系统的端到端验证

不足之处

项目较早期，文档与教程覆盖有限，上手门槛偏高
生态与社区规模较小，遇到问题可参考的案例和讨论不多

适用场景

自动驾驶感知与决策模块部署前的安全验证
含 AI 组件的机器人或无人机系统鲁棒性测试
学术研究中 AI 系统形式化验证方法的实验平台

替代项目

sherlock、nnv、verifly

项目介绍

VerifAI 是评测安全领域的开源项目，由 BerkeleyLearnVerify 开发，2019 年首次发布。

它收录于评测安全分类，该分类目前共有 501 个项目，GitHub 星标数为 219。

项目保持着较活跃的维护节奏，最近一次代码更新于 2026-09-30。开源免费工具包，无在线服务。

它主要面向的使用场景是：自动驾驶感知与决策模块部署前的安全验证。同类可对比的替代方案包括 sherlock、nnv、verifly。

上一篇：BotD

下一篇：exploitgym