GEM

微调时保住模型创造力，让生成不再千篇一律

GEM 是论文《Preserving Diversity in Supervised Fine-tuning of Large Language Models》的官方代码实现，旨在解决大语言模型监督微调（SFT）中常见的多样性退化问题。传统 SFT 往往鼓励模型模仿训练数据中的主流模式，导致生成文本重复、单一，缺乏创造性。GEM 通过引入一种基于梯度编辑的微调方法，在训练过程中动态调整梯度方向，保留模型原有的生成多样性，同时维持指令遵循能力。核心能力包括：与主流 Hugging Face 训练框架无缝集成，支持自定义模型和数据集；提供可复现的训练脚本和配置，方便研究者验证论文结果；包含评估生成多样性的工具，帮助量化改进效果。该项目处于早期阶段，代码结构清晰，适合作为研究基线或改进起点，尤其对关注生成质量与多样性平衡的 NLP 研究者和工程师具有参考价值。