awesome-ai-safety

一站式速查AI安全核心论文，快速入门不迷路

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 基础设施 🍴 复刻 45 🐛 待处理 23 👀 关注 5
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 227
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目，完全免费，无付费版本。

项目预览

awesome-ai-safety 项目界面预览图
图片来源：项目官网

项目数据

分类基础设施
开发团队Giskard-AI
官网地址https://giskard.ai
GitHubhttps://github.com/Giskard-AI/awesome-ai-safety
定价模式🏷️完全免费
价格说明开源项目，完全免费，无付费版本。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议Apache-2.0
技术栈/模型ai,ai-alignment,ai-quality,ai-safety,artificial-intelligence,awesome,awesome-list,computer-vision,ethical-ai,llm,llmops,machine-learning,ml,ml-safety,ml-testing,mlops,model-testing,model-validation,natural-language-processing,robustness
GitHub 星标★ 227
上线时间2023-04-19 00:00:00
代码更新2025-04-14
仓库体积66 KB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数7

项目介绍

这是一个精心整理的AI安全与质量领域的论文和技术文章列表，旨在为研究人员、工程师和政策制定者提供系统性的学习资源。项目解决了AI安全领域信息分散、难以快速入门的问题，通过分类和索引的方式，将对抗攻击、鲁棒性、可解释性、公平性、对齐等关键主题的权威资料汇集一处。核心能力包括：按主题分类的资源导航、对每项资源的简要说明、以及持续更新的社区维护机制。作为早期项目，它更像一个知识地图，帮助用户高效定位特定方向的核心文献，降低入门门槛，并促进跨领域交流。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 227

核心亮点

  • 精选高质量论文和技术文章，节省筛选时间
  • 按主题分类，导航清晰，便于按需查阅
  • 社区驱动，持续更新，紧跟领域前沿

不足之处

  • 项目尚处早期，收录内容数量有限
  • 文档/社区待观察

适用场景

  • AI安全领域新手快速建立知识框架
  • 研究人员查找特定方向（如对抗鲁棒性）的经典文献
  • 课程设计或技术分享时收集参考资料

替代项目

Awesome AI Alignment、Awesome Machine Learning Safety、AI Safety Curriculum

上一篇：prometheus-eval

下一篇：parea-sdk-py

同类项目推荐

SurrogateShield 开源

给 LLM 和 RAG 加一层敏感信息脱敏与还原

A privacy-first guardrail for LLMs and RAG pipelines. SurrogateShield detects, redac···

★ 541 2026-11-07
hash-hop 开源

自动生成超长文本定位题，快速测出模型长上下文真本事

Long context evaluation for large language models

★ 228 2026-09-25
VLABench 开源

一站式公平评测VLA与具身智能模型，让模型实力一目了然

A large-scale benchmark for evaluating vision-language-action models, embodied agent···

★ 482 2026-08-09
Awesome-Mental-Health-LLMs 开源

一篇文章看懂LLM做心理健康的技术地图与风险

From Pattern Recognizers to Personalized Companions: A Survey of Large Language Mode···

★ 146 2026-09-25
CUREBench 开源

给AI看病决策打分，推动医疗AI更靠谱

CUREBench @ NeurIPS 2025: Benchmarking AI reasoning for therapeutic decision-making ···

★ 136 2026-08-09
auto_LiRPA 开源

给神经网络算严格上下界，验证对抗鲁棒性

auto_LiRPA: An Automatic Linear Relaxation based Perturbation Analysis Library for N···

★ 359 2026-10-23
LLM-Agent-Paper-List 开源

一键掌握LLM智能体领域核心论文，快速入门不迷路

The paper list of the 86-page SCIS cover paper "The Rise and Potential of Large Lang···

★ 8264 2026-08-09
inspect_evals 开源

一行命令跑齐大模型能力与安全评测

Collection of evals for Inspect AI

★ 736 2026-09-14