汇聚全球AI评测与安全项目，模型评估、基准测试、安全对齐、护栏工具大全。
共收录 565 个开源项目
auto_LiRPA
开源
免费
仅开源
给神经网络算严格上下界，验证对抗鲁棒性
auto_LiRPA 是一个面向神经网络与通用计算图的自动线性松弛扰动分析库，主要用于计算神经网络输出的···
dep-scan
开源
免费
仅开源
扫依赖和镜像，查漏洞与许可证风险，出 SBOM
OWASP dep-scan 是一款面向软件供应链安全的风险审计工具，基于已知漏洞、安全公告和许可证限制对项···
semantic-object-accuracy-for-generat···
开源
免费
仅开源
评估生成图像中对象是否画对了，给文本到图像模型打分。
这是一个用于生成式文本到图像合成任务的语义对象准确率评估工具，对应TPAMI 2020论文。它解决的是···
www-project-machine-learning-securit···
开源
免费
仅开源
给机器学习系统做安全体检，照着清单防十大风险。
OWASP机器学习安全十大风险项目，旨在为机器学习系统提供安全风险清单和缓解指南。它借鉴OWASP Top···
dialog-eval
开源
免费
仅开源
17个指标一键评估你的对话模型，告别人工打分。
dialog-eval 是一个用于评估对话模型的 Python 库，提供 17 种自动化评估指标，覆盖流畅性、相关性···
NISQA
开源
免费
仅开源
无参考也能给语音质量打分，TTS自然度一测便知
NISQA是一个基于深度学习的非侵入式语音质量与TTS自然度评估工具。它解决了传统语音质量评估需要原···
VerifAI
开源
免费
仅开源
给带 AI 的系统做形式化验证，提前揪出危险场景
VerifAI 是面向含 AI/ML 组件系统的形式化设计与分析工具包，由加州大学伯克利分校团队开源。它解决···
speech-to-text-benchmark
开源
免费+付费
可打开
一套脚本横评各家语音识别，选型不再靠猜
speech-to-text-benchmark 是一个开源的语音转文字（STT）评测框架，用统一的测试流程对比不同语音···
Object-Detection-Metrics
开源
免费
仅开源
一键计算目标检测的 mAP，公平对比模型性能
Object-Detection-Metrics 是一个用于评估目标检测算法性能的 Python 工具库，主要实现了 PASCAL V···
presidio
开源
免费
可打开
一键检测并脱敏文本/图片中的敏感信息，守护数据隐私合规。
Presidio 是一个开源的敏感数据检测与匿名化框架，用于在文本、图像和结构化数据中识别、脱敏、遮蔽···
botium-core
开源
已失效
像用 Selenium 测网页一样，自动化测试你的聊天机器人
Botium Core 是一个用于聊天机器人测试的自动化框架，常被称为“聊天机器人的 Selenium”。它解决的···
pytorch-grad-cam
开源
免费
仅开源
一键生成热力图，看清 AI 模型到底在看哪里
pytorch-grad-cam 是一个用于计算机视觉模型可解释性的高级工具库，基于 PyTorch 实现 Grad-CAM 及···
getIPIntel
开源
免费+付费
已失效
一个 API 查 IP，拦代理、VPN、TOR 和恶意流量
getIPIntel 是一个基于 PHP 的免费 IP 情报查询 API，主要用来识别并拦截代理、VPN、TOR 节点、Web···
