awesome-ai-safety

一站式速查AI安全核心论文，快速入门不迷路

这是一个精心整理的AI安全与质量领域的论文和技术文章列表，旨在为研究人员、工程师和政策制定者提供系统性的学习资源。项目解决了AI安全领域信息分散、难以快速入门的问题，通过分类和索引的方式，将对抗攻击、鲁棒性、可解释性、公平性、对齐等关键主题的权威资料汇集一处。核心能力包括：按主题分类的资源导航、对每项资源的简要说明、以及持续更新的社区维护机制。作为早期项目，它更像一个知识地图，帮助用户高效定位特定方向的核心文献，降低入门门槛，并促进跨领域交流。

开源 free 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 222
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类基础设施
开发团队Giskard-AI
所属国家
官网地址https://giskard.ai
GitHubhttps://github.com/Giskard-AI/awesome-ai-safety
定价模式free
价格说明开源项目，完全免费，无付费版本。
访问状态
是否开源是
开源协议Apache-2.0
主要语言
技术栈/模型ai,ai-alignment,ai-quality,ai-safety,artificial-intelligence,awesome,awesome-list,computer-vision,ethical-ai,llm,llmops,machine-learning,ml,ml-safety,ml-testing,mlops,model-testing,model-validation,natural-language-processing,robustness
GitHub 星标★ 222
30天Star增速
HF 下载量
上线时间2023-04-19 00:00:00
最近更新2026-09-21 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数6

使用教程

核心亮点

  • 精选高质量论文和技术文章，节省筛选时间
  • 按主题分类，导航清晰，便于按需查阅
  • 社区驱动，持续更新，紧跟领域前沿

不足之处

  • 项目尚处早期，收录内容数量有限
  • 文档/社区待观察

适用场景

  • AI安全领域新手快速建立知识框架
  • 研究人员查找特定方向（如对抗鲁棒性）的经典文献
  • 课程设计或技术分享时收集参考资料

替代项目

Awesome AI Alignment、Awesome Machine Learning Safety、AI Safety Curriculum

项目介绍

awesome-ai-safety 是评测安全领域的开源项目，由 Giskard-AI 开发，2023 年首次发布。

它收录于评测安全分类，该分类目前共有 458 个项目，GitHub 星标数为 222。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-21。完全免费，无付费版本。

它主要面向的使用场景是：AI安全领域新手快速建立知识框架。同类可对比的替代方案包括 Awesome AI Alignment、Awesome Machine Learning Safety、AI Safety Curriculum。

上一篇：prometheus-eval

下一篇：parea-sdk-py

同类项目推荐

akto 开源

给 AI 应用做安全体检，防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1517 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾，自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 164 2026-08-10
deepteam 开源

自动模拟越狱攻击，提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 2937 2026-09-12
Tracely-ai 开源

把生产事故变成回归测试，合并前自动拦截 AI 故障

Trace-native CI/CD for AI agents — production failures become regression tests that···

★ 1362 2026-08-24