GEM

微调时保住模型创造力,让生成不再千篇一律

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 6 🐛 待处理 2 👀 关注 1
GitHub ↗
GitHub 星标 ★ 62
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源代码,无在线服务,需自行部署,完全免费。

项目预览

GEM 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队liziniu
定价模式🏷️完全免费
价格说明开源代码,无在线服务,需自行部署,完全免费。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Python
技术栈/模型cold-start,distribution-matching,diversity,generalization,large-language-models,reasoning,rl,supervised-finetuning
GitHub 星标★ 62
上线时间2024-10-23 00:00:00
代码更新2025-05-12
仓库体积7.5 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数5

项目介绍

GEM 是论文《Preserving Diversity in Supervised Fine-tuning of Large Language Models》的官方代码实现,旨在解决大语言模型监督微调(SFT)中常见的多样性退化问题。传统 SFT 往往鼓励模型模仿训练数据中的主流模式,导致生成文本重复、单一,缺乏创造性。GEM 通过引入一种基于梯度编辑的微调方法,在训练过程中动态调整梯度方向,保留模型原有的生成多样性,同时维持指令遵循能力。核心能力包括:与主流 Hugging Face 训练框架无缝集成,支持自定义模型和数据集;提供可复现的训练脚本和配置,方便研究者验证论文结果;包含评估生成多样性的工具,帮助量化改进效果。该项目处于早期阶段,代码结构清晰,适合作为研究基线或改进起点,尤其对关注生成质量与多样性平衡的 NLP 研究者和工程师具有参考价值。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 62

核心亮点

  • 直接解决 SFT 后生成文本重复、单一的真实痛点,而非泛泛优化指标
  • 基于梯度编辑的轻量方法,无需修改模型架构,易于集成到现有训练流程
  • 提供论文配套的完整实验配置和评估脚本,复现门槛低

不足之处

  • 文档/社区待观察
  • 仅支持 PyTorch 生态,未覆盖 TensorFlow/JAX 等框架

适用场景

  • 研究 SFT 多样性退化问题,作为论文复现或改进的基线
  • 在通用指令微调或领域微调中,需要保持模型生成多样性的工程场景
  • 对比不同微调方法对生成质量影响的实验评估

替代项目

DPO (Direct Preference Optimization)、ORPO (Odds Ratio Preference Optimization)、SimPO (Simple Preference Optimization)

上一篇:Adam-mini

下一篇:ReaLHF

同类项目推荐

vertex-ai-mlops 开源

照着做,就能在 Google Cloud 上跑通生产级 ML 流水线

Google Cloud Platform Vertex AI end-to-end workflows for machine learning operations

★ 720 2026-08-09
DS2 开源

用 LLM 评分自动筛数据,少数据也能训出好模型

[ICLR 2025] Official implementation of paper "Improving Data Efficiency via Curating···

★ 102 2026-08-09
Fast-LLM 开源

让 LLM 训练跑满 GPU,少等快出结果

Accelerating your LLM training to full speed! Made with ❤️ by ServiceNow Research

★ 339 2026-09-26
dParallel 开源

让扩散语言模型并行解码,推理速度翻倍

[ICLR 2026] dParallel: Learnable Parallel Decoding for dLLMs

★ 68 2026-08-09
nanochat-mlx 开源

在 Mac 上训练你自己的 ChatGPT,无需云 GPU

Train your own ChatGPT on Apple Silicon — MLX port of nanochat

★ 78 2026-08-09
MoE-plus-plus 开源

零计算专家,让MoE模型更快更省,性能不减

[ICLR 2025] MoE++: Accelerating Mixture-of-Experts Methods with Zero-Computation Exp···

★ 281 2026-08-09
Open-LLaVA-NeXT 开源

开源复现 LLaVA-NeXT,快速训练你的多模态对话模型

An open-source implementation for training LLaVA-NeXT.

★ 438 2026-08-09
xtuner 开源

训练千亿 MoE 模型,省显存又提速

A Next-Generation Training Engine Built for Ultra-Large MoE Models

★ 5223 2026-08-09
prime-rl 开源

让智能体多轮强化学习训练轻松扩展到大规模

Agentic RL Training at Scale

★ 2226 2026-10-11