让LLM输出带概率的多样答案，告别重复文本
Verbalized Sampling 是一个无需训练的提示词策略框架，旨在通过让大语言模型以概率形式输出候选答案，来缓解生成文本的模式坍缩问题。它解决的是 LLM 在采样时多样性不足、容易重复常见回答的痛点，核心能力是引导模型在生成时显式考虑多个可能选项及其概率，从而在不牺牲质量的前提下将输出多样性提升 2-3 倍。该框架与模型无关，支持 CLI 和 API 接口，可无缝集成到现有工作流中，适用于创意写作、合成数据生成和对话模拟等场景。其实现方式简单，用户只需修改提示词格式，无需训练或微调模型，即可显著增强生成结果的丰富度。
Top-p (nucleus) sampling、Temperature sampling、Contrastive Search
verbalized-sampling 是模型训练领域的开源项目，由 CHATS-lab 开发，2025 年首次发布。
在全站 13,090 个收录项目中，它的 GitHub 星标数（812）位列前 30%，在模型训练分类中处于中上游。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-23。无在线服务，需自行部署，完全免费。
它主要面向的使用场景是：创意写作：生成多个风格迥异的故事情节或文案。同类可对比的替代方案包括 Top-p (nucleus) sampling、Temperature sampling、Contrastive Search。
Long-RL
开源
让强化学习轻松驾驭超长序列，训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性，长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型，练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型，推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···
