rlhf 第 2 页
本站收录 59 个带「rlhf」标签的 AI 开源项目（按 GitHub 星标从高到低，第 2 / 2 页）
Rules.txtRules.txt 是一个针对大型语言模型（LLM）的对齐与越狱（jailbreak）研究项目，提供一套指令集，用于审计模型内部推理过程并揭示潜在偏见。它通过精★ 108
log10log10 是一个 Python 客户端库，旨在提升 LLM 应用的准确性。它通过提供数据记录、调试、评估和反馈收集等功能，帮助开发者系统性地改进基于大语言模型★ 97
OkapiOkapi 是一个面向多语言场景的指令微调大语言模型项目，核心解决非英语语言（如中文、西班牙语、印地语等）在指令跟随和对话质量上表现不足的问题。项目基于 LLa★ 96
image-rankerimage-ranker 是一个在浏览器中通过两两对比来给图像排序的开源工具，基于 TrueSkill 算法。它主要解决图像数据集构建和排序中的主观评估问题，让★ 93
RewardModelingBeyondBradleyTerry这是一个关于偏好奖励建模的开源项目，是ICLR 2025论文的官方实现。论文重新思考了基于Bradley-Terry模型的奖励建模方法，从理论基础、理论分析和替★ 74
Directional-Preference-AlignmentDirectional Preference Alignment 是一个用于大语言模型对齐的早期开源项目，旨在通过方向性偏好优化来提升模型与人类意图的一致性。它★ 61
Reliable_ADReliable_AD 是一个面向广告图像生成的可靠化工具，基于 ECCV 2024 论文实现。它解决的是扩散模型在广告场景中生成图像时缺乏可靠性和对齐性的问题★ 60
DPO-ShiftDPO-Shift 是一个针对直接偏好优化（DPO）算法的改进开源项目，旨在解决 DPO 训练中分布偏移的问题。在标准 DPO 中，模型在训练时使用的参考分布与★ 59
Re-AlignRe-Align 是一个针对视觉语言模型（VLM）幻觉问题的对齐框架，发表于 EMNLP 2025。它通过引入图像检索机制，在模型生成文本时检索相关图像作为额外★ 52