一网打尽DPO论文与代码，快速入门偏好对齐
这是一个关于直接偏好优化（Direct Preference Optimization, DPO）的精选资源列表，旨在系统梳理该领域的研究进展。DPO是一种用于对齐大语言模型与人类偏好的训练方法，相比传统的RLHF（基于人类反馈的强化学习）更简单高效。该项目以综述形式整理了DPO相关的论文、代码、教程和工具，帮助研究者和工程师快速了解DPO的核心思想、变体（如IPO、KTO等）以及应用场景。它解决了从海量文献中筛选关键信息的问题，提供了结构化的知识入口。核心能力包括：分类整理DPO论文、关联开源实现、标注方法差异、提供入门指南。适合作为该领域的学习地图和参考手册。
awesome-rlhf、awesome-llm-alignment、awesome-preference-optimization
awesome-direct-preference-optimization 是评测安全领域的开源项目，由 liushunyu 开发，2024 年首次发布。
它收录于评测安全分类，该分类目前共有 458 个项目，GitHub 星标数为 94。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-16。无在线服务，需自行部署，完全免费。
它主要面向的使用场景是：研究DPO方法时快速查找相关论文和基线。同类可对比的替代方案包括 awesome-rlhf、awesome-llm-alignment、awesome-preference-optimization。
上一篇：MGDebugger
下一篇：TrustLLM
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.
Tracely-ai
开源
把生产事故变成回归测试，合并前自动拦截 AI 故障
Trace-native CI/CD for AI agents — production failures become regression tests that···
