tree-of-thought-llm

让大模型像人类一样反复推敲，多路径思考找最优解

Tree of Thoughts (ToT) 是一个基于大语言模型的推理框架，源自 NeurIPS 2023 论文。它解决的是传统链式思维（CoT）在复杂问题中探索不足、易陷入局部最优的问题。核心能力是让模型在推理过程中生成多棵思维树，每棵树包含多个思考步骤，通过广度优先或深度优先搜索，结合评估函数对中间步骤打分，并支持回溯，从而找到最优推理路径。项目提供了完整的代码实现、示例场景（如24点游戏、创意写作、填字游戏）以及提示词模板，方便研究者复现和扩展。它特别适合需要多步推理、规划或探索的任务，能显著提升模型在复杂问题上的表现。

开源 free 开源模型

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 6070

维护状态低维护

是否开源是

定价模式 free

项目数据

分类开源模型

开发团队princeton-nlp

所属国家

官网地址

GitHubhttps://github.com/princeton-nlp/tree-of-thought-llm

定价模式free

价格说明开源项目，MIT许可证，完全免费，可自行部署使用。

访问状态

是否开源是

开源协议MIT

主要语言Python

技术栈/模型large-language-models,llm,prompting,tree-of-thoughts,tree-search

GitHub 星标★ 6070

30天Star增速

HF 下载量

上线时间2023-05-17 00:00:00

最近更新2026-09-22 00:00:00

维护状态低维护

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数3

使用教程

难度：入门约 10 分钟部署方式：库/依赖 4 步

环境要求

Python 环境且 pip 可用
OpenAI API Key（脚本默认使用 gpt-4）
从源码安装需已安装 git
网络可访问 PyPI 与 OpenAI 接口

安装与启动步骤

1设置 API Key

把 OpenAI 密钥写入环境变量 OPENAI_API_KEY，代码运行时会自动读取；Windows 用 set 或 $env: 设置。
```
export OPENAI_API_KEY=sk-xxxxxxxx
```
2从 PyPI 安装

官方推荐方式之一，直接安装 tot 包，装完即可在脚本中 import tot。
```
pip install tree-of-thoughts-llm
```

3从源码安装

另一种安装方式，克隆仓库后装依赖并把本仓库以可编辑模式安装为 tot 包。

git clone https://github.com/princeton-nlp/tree-of-thought-llm
cd tree-of-thought-llm
pip install -r requirements.txt
pip install -e .

4编写并运行示例

按 README Quick Start 编写最小脚本，用 GPT-4 求解 4 5 6 10 的 24 点问题，保存为 .py 后执行。

关键配置

配置项	必填	说明	示例
`OPENAI_API_KEY`	是	代码读取的 OpenAI 密钥环境变量	`sk-xxxxxxxx`
`backend`	否	示例脚本中选择的后端模型	`gpt-4`
`temperature`	否	生成时的采样温度	`0.7`
`task`	否	任务名，示例为 24 点游戏	`game24`
`method_generate`	否	思维生成方法	`propose`
`method_evaluate`	否	思维评估方法	`value`

如何确认成功

运行示例脚本后打印出类似 10 - 4 = 6、Answer: (5 * (10 - 4)) - 6 = 24 的求解过程即成功。

常见问题

Q：没有 OpenAI API Key 能用吗？

A：README 只给出 OpenAI 后端的用法，安装后必须配置 OPENAI_API_KEY 环境变量才能运行示例。

Q：为什么每次结果不一样、有时还是错的？

A：README 明确说明输出不确定，有时会给出错误答案，属正常现象，需要自行核对结果。

Q：pip 安装 tot 包失败怎么办？

A：改用源码安装：git clone 仓库后执行 pip install -r requirements.txt 和 pip install -e .。

Q：运行很慢是什么原因？

A：README 提示该示例使用 GPT-4，速度可能偏慢，可耐心等待或改用更小的后端模型。

Q：可以解决哪些任务？

A：项目提供 24 点游戏、创意写作、填字游戏等示例场景及配套提示词模板。

注意事项

README 中的 Quick Start 脚本在节选里被截断，完整参数请以仓库源码为准。
示例输出非确定性，可能出错，结果需人工校验后再使用。
API Key 建议按 OpenAI 官方安全实践存入环境变量，不要硬编码进代码。
源码安装时需先 cd 进仓库目录，再执行 pip install -e . 安装 tot 包。

核心亮点

基于NeurIPS 2023顶会论文，算法有理论支撑，权威性强
实现多种搜索策略（BFS/DFS）和评估方法，灵活可配置
提供24点、创意写作等示例，开箱即用，便于理解原理

不足之处

对每个中间步骤都需要调用模型评估，计算成本高
文档偏学术，上手门槛较高，缺少工程化封装

适用场景

复杂数学推理题求解
创意写作与故事生成
需要规划或决策的智能体任务

替代项目

langchain、AutoGPT、思维树（ToT）的官方实现

项目介绍

tree-of-thought-llm 是开发框架领域的开源项目，由 princeton-nlp 开发，2023 年首次发布。

在全站 13,090 个收录项目中，它的 GitHub 星标数（6,070）位列前 8%，在开发框架分类的 803 个项目里位列前 9%。

近 41 天，它的 GitHub 星标从 6,047 增加到 6,070，净增 23。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-22。MIT许可证，完全免费，可自行部署使用。

它主要面向的使用场景是：复杂数学推理题求解。同类可对比的替代方案包括 langchain、AutoGPT、思维树（ToT）的官方实现。

上一篇：llm

下一篇：Edit-Banana