secure-ai-tooling
给AI系统做安全体检，用统一框架识别和缓解风险
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 104
核心亮点
- 由 CoSAI 联盟背书，风险分类体系权威且系统化
- 提供通用语言，降低 AI 安全沟通和协作成本
- 覆盖 AI 全生命周期，从数据到部署的威胁面广
不足之处
- 早期项目，实际案例和最佳实践沉淀不足
- 文档/社区待观察
适用场景
- AI 应用上线前的安全风险评估
- 企业内部 AI 安全合规审计
- 安全团队与 AI 开发团队的风险对齐
替代项目
OWASP Top 10 for LLM Applications、MITRE ATLAS、AI Security Framework (NIST)
同类项目推荐
cai
开源
给AI穿上防弹衣，让安全模型扛住攻击
Cybersecurity AI (CAI), the framework for AI Security
VLMEvalKit
开源
一键评测 220+ 多模态模型，秒出对比报告
Open-source evaluation toolkit of large multi-modality models (LMMs), support 220+ L···
pairjudge
开源
用 LLM 当裁判做 A/B 评测，省钱、去偏、还能蒸馏小模型
Pairwise LLM judges (A/B/tie): budget-aware multi-turn packing, position-bias correc···
awesome-ai-security-tools
开源
一页清单，快速定位 AI 安全各细分方向的可用工具
A curated list of public-source, research, and commercial tools for AI security and ···
aacr-bench
开源
用真实仓库上下文评测大模型的代码审查能力
An Alibaba open-source multi-language benchmark for evaluating LLMs in repository-le···
augustus
开源
一条命令跑 190+ 探针，快速测出大模型安全漏洞
LLM security testing framework for detecting prompt injection, jailbreaks, and adver···
Modality-Integration-Rate
开源
量化视觉-语言模型跨模态对齐，诊断融合短板
[ICCV 2025] The official code of the paper "Deciphering Cross-Modal Alignment in Lar···
awesome-cybersecurity-agentic-ai
开源
一页清单，快速找到能落地的安全智能体方案
confabulations
开源
测出RAG系统胡说八道，用人工验证问答对量化幻觉
Hallucinations (Confabulations) Document-Based Benchmark for RAG. Includes human-ver···