Alignment-Whack-a-Mole-Code
微调一下，对齐模型又开始背版权书
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-10-28 · 当前星标 ★ 101
核心亮点
- 提供论文完整可复现实验代码，微调与逐字召回评测流程清晰
- 聚焦对齐脆弱性这一实际安全问题，评测指标可量化对比
- 基于Python实现，便于在自有模型与数据上改造复用
不足之处
- 早期项目，文档与使用说明较简略，上手需读论文配合
- 依赖特定模型与书籍数据集，迁移到其他模型需额外适配
适用场景
- 研究对齐模型在微调后的版权内容泄露风险
- 评估不同对齐策略对逐字记忆的抑制效果
- 为模型安全评测流水线补充记忆化检测环节
替代项目
lm-evaluation-harness、EleutherAI/lm-evaluation-harness、openai/evals
上一篇：MMAD
同类项目推荐
CS-Eval
开源
给网络安全大模型打分，快速找出安全能力短板
CS-Eval is a comprehensive evaluation suite for fundamental cybersecurity models or ···
WorldLens
开源
给自动驾驶世界模型做全科体检，从生成到重建一测到底
[CVPR 2026 Oral] WorldLens: Full-Spectrum Evaluations of Driving World Models in Rea···
openai-guardrails-python
开源
给 LLM 应用加一层安全护栏，自动拦截违规输入输出
OpenAI Guardrails - Python
ollama-benchmark
开源
一键测本地大模型吞吐，选模型不靠猜
LLM Benchmark for Throughput via Ollama (Local LLMs)
TaskMeAnything
开源
自动生成多模态任务，全面评估模型能力
[NeurIPS 2024] A task generation and model evaluation system for multimodal languag···
Video-MME
开源
测一测你的多模态模型，视频理解能力到底行不行
✨✨[CVPR 2025] Video-MME: The First-Ever Comprehensive Evaluation Benchmark of Mult···
LLMVault
开源
在真实漏洞靶场中练手，掌握 LLM 安全攻防实战
An intentionally vulnerable OWASP LLM Top 10 training platform for AI Security, Prom···
ClawdSecbot
开源
给 AI Bot 装上实时安全盾牌，防注入、防攻击、可审计。
ClawdSecbot is a professional AI Bot security protection solution, providing securit···
awesome-hallucination-detection
开源
大模型幻觉检测论文一网打尽，快速入门不迷路
List of papers on hallucination detection in LLMs.