vime

用 vLLM 加速 LLM 强化学习后训练，采样更快、规模更大

vime 是一个面向大语言模型后训练的开源框架，核心思路是把 vLLM 的高吞吐推理能力引入强化学习训练流程，解决 RL 后训练阶段采样速度慢、GPU 利用率低的问题。它主要服务于需要做 RLHF、GRPO 等强化学习微调的团队，让策略模型在生成 rollout 时不再受限于传统 HuggingFace 推理的低效。框架围绕 vLLM 构建了采样、奖励计算、策略更新等环节的调度，支持在训练与推理之间共享或切换权重，从而在扩展 RL 训练规模时保持较高吞吐。项目用 Python 实现，定位为训练侧基础设施，适合已有 vLLM 使用经验、想把 RL 后训练从实验推向更大规模的研究者或工程团队。当前星标约 482，属于早期项目，API 和文档仍在演进中。