verbalized-sampling

让LLM输出带概率的多样答案，告别重复文本

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 开源模型 🍴 复刻 84 👀 关注 8
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 823
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目，无在线服务，需自行部署，完全免费。

项目预览

verbalized-sampling 项目界面预览图
图片来源：项目官网

项目数据

分类开源模型
开发团队CHATS-lab
官网地址https://www.verbalized-sampling.com
GitHubhttps://github.com/CHATS-lab/verbalized-sampling
定价模式🏷️完全免费
价格说明开源项目，无在线服务，需自行部署，完全免费。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议NOASSERTION
主要语言Python
技术栈/模型claude,creative-writing,dialogue-simulation,diversity,gemini,gpt,large-language-models,llm,mode-collapse,prompt-engineering,python,qwen,sampling,synthetic-data
GitHub 星标★ 823
上线时间2025-05-20 00:00:00
代码更新2026-11-08
仓库体积84.5 MB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-09
浏览次数4

项目介绍

Verbalized Sampling 是一个无需训练的提示词策略框架，旨在通过让大语言模型以概率形式输出候选答案，来缓解生成文本的模式坍缩问题。它解决的是 LLM 在采样时多样性不足、容易重复常见回答的痛点，核心能力是引导模型在生成时显式考虑多个可能选项及其概率，从而在不牺牲质量的前提下将输出多样性提升 2-3 倍。该框架与模型无关，支持 CLI 和 API 接口，可无缝集成到现有工作流中，适用于创意写作、合成数据生成和对话模拟等场景。其实现方式简单，用户只需修改提示词格式，无需训练或微调模型，即可显著增强生成结果的丰富度。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 823

使用教程

难度：入门 约 15 分钟 部署方式：命令行安装 4 步

环境要求

  • Python 3.9+
  • 一个模型 Key

安装与启动步骤

  1. 1安装

    用「先列多种可能再选」提升回答多样性。

    pip install verbalized-sampling

  2. 2跑一个任务

    对比直接回答与 VS 方法的多样性。

    python scripts/tasks/run_poem.py --model gpt-4.1 --methods direct vs_standard --num-responses 50

  3. 3换任务复验

    命名与写故事两类任务各跑一次。

    python scripts/tasks/run_state_name.py --model anthropic/claude-sonnet-4 --methods direct vs_standard

  4. 4算指标

    用 n-gram 多样性指标量化差异。

    python scripts/tasks/run_story.py --model gpt-4.1 --methods direct vs_standard vs_cot --metrics diversity ngram

如何确认成功

VS 方法的输出多样性指标明显高于直接回答。

注意事项

  • 它不训练模型，只改提示策略，落地成本低。
  • 创意类任务收益大，事实类任务没必要用。
  • 也可以直接复制提示词到任意 chatbot 试。

核心亮点

  • 无需训练或微调，仅通过提示词工程即可实现，部署成本低
  • 多样性提升2-3倍，同时保持生成质量，实测效果显著
  • 模型无关，兼容主流LLM，并提供CLI/API方便集成

不足之处

  • 依赖模型对概率表达的理解，部分模型可能输出格式不稳定
  • 文档/社区待观察

适用场景

  • 创意写作：生成多个风格迥异的故事情节或文案
  • 合成数据生成：为训练集增加多样性样本，提升模型泛化能力
  • 对话模拟：生成多轮对话的多种可能走向，用于测试或角色扮演

替代项目

Top-p (nucleus) sampling、Temperature sampling、Contrastive Search

上一篇：MoA

下一篇：TreeLoRA

同类项目推荐

finetrainers 开源

用有限显存微调视频扩散模型，多卡也能跑

Scalable and memory-optimized training of diffusion models

★ 1364 2026-10-12
Spatial-SSRL 开源

让AI看懂空间关系，无需人工标注，强化学习自动提升空间推理。

[CVPR 2026] Official release of "Spatial-SSRL: Enhancing Spatial Understanding via S···

★ 141 2026-08-09
Dreambooth-Stable-Diffusion 开源

用几张照片，训练专属 Stable Diffusion 模型，生成你的定制图像。

Implementation of Dreambooth (https://arxiv.org/abs/2208.12242) by way of Textual In···

★ 3214 2026-08-09
CorDA 开源

用上下文感知的低秩分解，让大模型微调更省资源更精准

CorDA: Context-Oriented Decomposition Adaptation of Large Language Models for task-a···

★ 60 2026-08-09
maji-merger 开源

在 WebUI 里拖拽调参，几秒合并出全新模型

A WebUI extension for model merging

★ 72 2026-08-09
arkor 开源

用 TypeScript 搞定大模型微调，工程化更顺滑

The Best TypeScript framework for fine-tuning

★ 146 2026-08-09
Sklearn-genetic-opt 开源

用遗传算法自动调参，告别网格搜索的低效

Hyperparameter optimization and feature selection for scikit-learn using evolutionar···

★ 391 2026-08-09
foundation-model-stack 开源

按需拼装的 PyTorch 基础模型训练与推理组件库

Collection of components for development, training, tuning, and inference of foundat···

★ 234 2026-10-31
twinkle 开源

一站式训练工作台，让模型训练更省心

Twinkle✨: Training workbench to make your model glow.

★ 261 2026-10-17