rlhf

本站收录 56 个带「rlhf」标签的 AI 开源项目（按 GitHub 星标从高到低，此处展示前 50 个）

LlamaFactory统一的 LLM 高效微调框架，支持 100+ 主流模型（LLM 与 VLM），集成 LoRA 等前沿技术，被 ACL 2024 收录，是微调领域最流行的开源工具★ 75,189LLMSurveyLLMSurvey 是《A Survey of Large Language Models》论文的官方 GitHub 页面，旨在系统梳理大语言模型领域的发展脉络★ 12,224InternLMInternLM 是由上海人工智能实验室开源的大型语言模型系列，涵盖 InternLM、InternLM2、InternLM2.5 和 InternLM3 等多★ 7,280Chinese-LLaMA-Alpaca-2Chinese-LLaMA-Alpaca-2 是面向中文场景的 LLaMA-2 和 Alpaca-2 大语言模型二期开源项目，旨在解决原版 LLaMA-2 中文★ 7,114alignment-handbookalignment-handbook 是一个用于对齐语言模型（LM）与人类及 AI 偏好的开源工具箱，由 Hugging Face 团队维护。它提供了一套稳健、★ 5,684reasoning-from-scratchreasoning-from-scratch 是一个从零开始实现推理大语言模型（LLM）的开源教程项目，基于 PyTorch 逐步构建。它旨在帮助开发者和研究者★ 5,321transformerlab-appTransformer Lab 是一个面向 AI 研究者的开源研究环境，旨在让模型训练、评估和扩展变得无缝流畅，支持从本地硬件到 GPU 集群的灵活部署。它解决★ 5,195KilnKiln 是一个面向 AI 系统的全流程开发平台，旨在解决从数据准备到模型优化过程中工具链割裂、协作困难的问题。它提供数据集管理、人工标注与协作、评估（eval★ 5,130argillaArgilla 是一个面向 AI 工程师和领域专家的协作工具，专注于构建高质量数据集。它解决了 LLM 项目中数据标注、反馈收集和数据集管理的痛点，提供直观的 ★ 5,128align-anythingAlign Anything 是一个面向全模态模型的对齐训练框架，旨在解决多模态模型（文本、图像、音频、视频等）在人类反馈对齐方面的碎片化问题。它提供统一的训练★ 4,670hands-on-modern-rl这是一个开源强化学习课程，旨在帮助学习者从基础RL概念平滑过渡到LLM对齐、RLVR（基于强化学习的验证）以及高级智能体系统。项目以实践为核心，提供系统化的学习★ 4,473awesome-RLHFawesome-RLHF 是一个持续更新的强化学习与人类反馈（RLHF）资源精选列表。它系统整理了 RLHF 领域的论文、教程、代码库、数据集和工具，帮助研究者★ 4,431ROLLROLL 是一个面向大语言模型强化学习的高效、易用扩展库，主要解决 RLHF、RLVR 及智能体（agentic）训练场景下分布式训练复杂、资源调度困难的问题。★ 3,409distilabelDistilabel 是一个面向工程师的合成数据与 AI 反馈框架，旨在帮助用户快速构建可靠、可扩展的数据流水线。它基于经过验证的研究论文，将复杂的合成数据生成★ 3,401alpaca_evalalpaca_eval 是一个用于自动评估指令跟随语言模型的工具。它解决了人工评估成本高、速度慢、难以规模化的问题，提供了一种廉价、快速且经过人类验证的自动评估★ 2,018AgentsMeetRLAgentsMeetRL 是一个精选资源列表，聚焦于智能体强化学习（Agentic RL）领域。它系统整理了相关论文、代码库、工具、数据集和教程，帮助研究者和开★ 1,851safe-rlhfSafe RLHF 是一个基于安全强化学习的人类反馈对齐框架，旨在解决大模型价值对齐中的安全问题。传统 RLHF 通过人类反馈优化模型行为，但可能忽略安全约束，★ 1,618WebGLMWebGLM 是一个基于 GLM 的检索增强问答系统，旨在提升大语言模型在开放域问答中的事实准确性和知识时效性。它通过引入网络搜索能力，让模型能够实时获取互联网★ 1,602RLHF-Reward-ModelingRLHF-Reward-Modeling 是一个专注于训练 RLHF（基于人类反馈的强化学习）奖励模型的开源项目。它提供了一套完整的训练配方，帮助开发者从零开始★ 1,546xtreme1Xtreme1 是一个面向多模态训练数据的一体化标注平台，支持 3D LiDAR 点云、2D 图像和大语言模型（LLM）数据的标注与处理。它解决的是 AI 团队★ 1,325AI-CompassAI-Compass 是一个面向 AI 学习者的开源知识导航与路线图项目，用 Python 组织内容，目标是解决 AI 领域知识点庞杂、学习路径混乱的问题。它把★ 965SimPOSimPO 是一个简单而有效的偏好优化方法，用于对齐大语言模型与人类偏好。它由斯坦福大学等机构提出，发表于 NeurIPS 2024。与传统的直接偏好优化（DP★ 959OpenJudgeOpenJudge 是一个用于智能体全面评估与质量奖励的统一框架。它解决的核心问题是：当前大模型智能体评估往往只关注最终结果，而忽略过程质量，且评估标准碎片化。★ 860awesome-on-policy-distillation这是一个围绕大语言模型在线策略蒸馏（On-Policy Distillation，OPD）的资源合集，系统整理了论文、技术报告、框架和工具。它解决的核心问题是：★ 850haloHalo 是由 White Circle 开源的大语言与多模态模型训练框架，用 Python 编写。它面向从微调到强化学习后训练的完整流程，核心能力包括分布式训★ 798AlignLLMHumanSurvey这是一个关于大语言模型与人类对齐（Alignment）的综述资源库，系统梳理了让 LLM 输出符合人类意图、价值观和偏好的技术路线。项目围绕指令微调、RLHF、★ 738Trinity-RFTTrinity-RFT 是一个面向大语言模型强化微调（RFT）的通用框架，目标是把 RLHF/RFT 从单机脚本式实验升级为可扩展、可复用的工程系统。它解决的核★ 703SPPOSPPO（Self-Play Preference Optimization，自博弈偏好优化）是一个用于大语言模型对齐训练的开源项目，提供了论文的官方实现。它解★ 589TextRLTextRL 是一个基于 Hugging Face Transformers 框架实现 ChatGPT RLHF（基于人类反馈的强化学习）的开源项目，旨在将强化★ 565Awesome-LLM-On-Policy-Distillation这是一个关于大语言模型在线策略蒸馏（On-Policy Distillation）的精选资源清单，汇集了相关论文、代码和工具。在线策略蒸馏是知识蒸馏的一种重要形★ 562ARIS-in-AI-OfferARIS-in-AI-Offer 是一个面向 AI 领域秋招的中英双语面试速查表项目，由 ARIS 工具链自动生成。它解决 AI 求职者备考资料分散、更新不及时★ 559dLLM-RLdLLM-RL 是 ICLR 2026 论文 TraceRL 的官方代码库，专注于扩散大语言模型（Diffusion LLMs）的后训练强化学习。扩散模型在生成★ 524step_into_llmStep into LLM 是华为 MindSpore 社区推出的大语言模型入门课程项目，以 Jupyter Notebook 为载体，系统讲解从 BERT、G★ 480mlx-lm-loramlx-lm-lora 是面向 Apple Silicon 的 LLM 训练工具，基于苹果 MLX 框架，让 Mac 用户无需 NVIDIA GPU 也能对大语★ 418pykoipykoi 是一个基于主动学习的统一接口开源项目，旨在简化大语言模型（LLM）应用的开发与优化流程。它解决了从数据收集、模型微调到反馈强化学习（RLHF）过程中★ 411quick-start-guide-to-llms这是《大型语言模型快速入门指南》一书的官方代码仓库，配套书籍内容，提供了一系列 Jupyter Notebook 示例，帮助读者从零开始理解大语言模型的核心概念★ 397VADERVADER 是一个用于视频扩散模型对齐的开源项目，通过奖励梯度（Reward Gradients）对预训练的视频生成模型进行微调，以提升生成视频的质量和与人类偏★ 318MLX-LoRA-StudioMLX-LoRA-Studio 是一款原生 macOS 应用，让用户在 Apple Silicon 芯片的 Mac 上直接完成大语言模型的 LoRA 微调，全程★ 271FineEnvsFineEnvs 是一个面向大语言模型强化学习（RL）的开源环境构建与规模化工具集，定位为「RL Environments 101」。它解决的核心问题是：在 L★ 265HuggingEnvsHuggingEnvs 是一个面向 LLM 时代的教育型开源项目，专注于强化学习（RL）环境的构建与规模化实践。它旨在解决当前 RL 环境设计缺乏标准化、难以适★ 262LLaVA-MoDLLaVA-MoD 是一个面向多模态大语言模型的高效压缩方案，通过结合混合专家（MoE）与知识蒸馏技术，将原本庞大的 LLaVA 模型压缩为轻量级版本，同时保持★ 227minimind-deep-dive这是一个以 MiniMind 开源大模型源码为切入点，面向中文读者的深度学习笔记项目。它逐行精读预训练、SFT、DPO、PPO、GRPO 等核心训练机制，帮助读★ 222IterCompIterComp 是一个面向文本到图像生成的开源框架，核心解决复杂组合生成问题（如多物体、属性绑定、空间关系等）。它提出迭代组合感知反馈学习方法，从模型库中收集★ 202rlhf-summary-notes这是一个关于RLHF（基于人类反馈的强化学习）算法的简明总结笔记项目。它旨在为研究者和工程师提供一份精炼的RLHF算法概览，涵盖从基础概念到具体算法的核心要点。★ 154llm-flashcardsllm-flashcards 是一个面向大语言模型学习者的可视化知识库，以卡片形式系统整理了从分词到部署的 180 个核心概念。该项目旨在帮助用户快速理解 LL★ 135hands-on-llmhands-on-llm 是一个面向中文开发者的 LLM 全栈动手学习项目，核心目标是把大模型从理论到落地的完整链路拆解成可运行的代码与实验。它包含三大部分：一★ 125agentic-rlagentic-rl 是一个面向中文零基础学习者的 Agentic RL 教程项目，共 25 章，从强化学习与智能体基础概念讲起，逐步过渡到 GRPO 实战，并★ 114Rules.txtRules.txt 是一个针对大型语言模型（LLM）的对齐与越狱（jailbreak）研究项目，提供一套指令集，用于审计模型内部推理过程并揭示潜在偏见。它通过精★ 105log10log10 是一个 Python 客户端库，旨在提升 LLM 应用的准确性。它通过提供数据记录、调试、评估和反馈收集等功能，帮助开发者系统性地改进基于大语言模型★ 97OkapiOkapi 是一个面向多语言场景的指令微调大语言模型项目，核心解决非英语语言（如中文、西班牙语、印地语等）在指令跟随和对话质量上表现不足的问题。项目基于 LLa★ 96

相关标签

llm3262large-language-models1058reinforcement-learning141nlp366ai2627deep-learning773llms381machine-learning867grpo30agent816fine-tuning118llama242