awesome_LLM-harmful-fine-tuning-papers
一页看全有害微调攻防论文，快速摸清 LLM 安全风险
这是一个聚焦大语言模型有害微调攻击的论文综述仓库，对应一篇被 ACM Computing Surveys 收录的综述文章。它系统整理了 harmful fine-tuning 这一安全威胁的研究脉络：攻击者仅用少量恶意或有害数据对已对齐模型做微调，就能绕过安全对齐、诱发模型输出有害内容或产生 misalignment 行为。仓库按攻击、防御、评测、涌现现象等主题归类相关论文，帮助研究者快速定位该方向的关键工作与空白。核心价值在于把分散在多个会议和预印本中的成果集中成可检索的清单，为安全对齐、红队测试和模型发布前的风险评估提供参考。适合做 LLM 安全、对齐与微调方向的研究者、安全工程师和需要评估模型微调风险的团队作为文献入口。
项目数据
使用教程
核心亮点
- 按攻击、防御、评测等主题分类整理，便于按方向检索文献
- 对应 ACM CSUR 综述，覆盖面和研究脉络相对系统
- 聚焦 harmful fine-tuning 这一具体威胁，比泛安全清单更垂直
不足之处
- 本质是论文列表，缺少代码实现和可复现实验
- 更新依赖维护者，新论文收录可能滞后
适用场景
- 调研 LLM 微调安全风险的文献综述写作
- 为模型发布前设计有害微调红队测试方案
- 安全对齐方向研究生快速入门该子领域
替代项目
awesome-llm-security、Awesome-LLM-Safety、LLM-Attacks
项目介绍
上一篇：llm_chess
下一篇：svelte-bench
同类项目推荐
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
Tracely-ai
开源
把生产事故变成回归测试，合并前自动拦截 AI 故障
Trace-native CI/CD for AI agents — production failures become regression tests that···
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门，防提示注入和隐私泄露
The fastest Trust Layer for AI Agents