
VerifAI
给带 AI 的系统做形式化验证,提前揪出危险场景
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-10-08 · 当前星标 ★ 221
核心亮点
- 提供 Scenic 概率场景语言,能自动生成大量边界测试场景,比手写用例覆盖更广
- 把神经网络组件接入形式化验证流程,支持反例搜索与鲁棒性量化分析
- 与 CARLA 等仿真器集成,可直接用于自动驾驶等安全关键系统的端到端验证
不足之处
- 项目较早期,文档与教程覆盖有限,上手门槛偏高
- 生态与社区规模较小,遇到问题可参考的案例和讨论不多
适用场景
- 自动驾驶感知与决策模块部署前的安全验证
- 含 AI 组件的机器人或无人机系统鲁棒性测试
- 学术研究中 AI 系统形式化验证方法的实验平台
替代项目
sherlock、nnv、verifly
上一篇:BotD
下一篇:exploitgym
同类项目推荐
athina-evals
开源
给 LLM 响应做质检,快速发现模型输出问题
Python SDK for running evaluations on LLM generated responses
semantic-object-accuracy-for-gen···
开源
评估生成图像中对象是否画对了,给文本到图像模型打分。
Code for "Semantic Object Accuracy for Generative Text-to-Image Synthesis" (TPAMI 20···
primitive-bench
开源
声明任务先定价,AI 干完验证,不成退款
The marketplace for verifiable AI outcomes: state a task, get a fixed price upfront,···
Modality-Integration-Rate
开源
量化视觉-语言模型跨模态对齐,诊断融合短板
[ICCV 2025] The official code of the paper "Deciphering Cross-Modal Alignment in Lar···
awesome-typesafe-jev
开源
一页看全 System One 的 SDK、演示与评测
Awesome Jev: a source-backed field guide to TypeSafe's System One model, with SDKs, ···
AI-Surface
开源
PR 阶段扫出 AI 资产与风险,离线免费
Find and govern AI attack surfaces in application code, at PR time and inside your A···
PhysGym
开源
让大模型在物理实验环境里动手推理、发现方程
A benchmark suite for evaluating LLM-based interactive scientific reasoning.
hawk
开源
把 Inspect AI 评测搬到云端批量跑
Run Inspect AI evals in the cloud
RAMPART
开源
用 pytest 给 AI 智能体做安全体检,上线前跑一遍
A pytest-native safety and security testing framework for agentic AI applications