
tree-of-thoughts
让大模型先想多步再选最优,推理正确率提升70%
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-10-05 · 当前星标 ★ 4592
使用教程
环境要求
- Python 环境(可用 pip3 安装包)
- 一个支持 function calling 的模型 API Key(OpenAI / Anthropic / Groq 等)
- 能访问所填模型的网络环境
- 工作目录可写入,用于存放 .env 和 WORKSPACE_DIR
安装与启动步骤
-
1安装 Swarms 框架
Tree of Thoughts 现随 Swarms 框架发布,实现类为 TreeOfThoughts。用 pip3 安装或升级到最新版即可,无需单独装其它依赖。
pip3 install -U swarms -
2配置 API 密钥
在工作目录新建 .env 文件并写入密钥,Swarms 在 import 时会自动加载。把 your_openai_api_key 换成你自己的真实密钥。
cat > .env <<'EOF' OPENAI_API_KEY="your_openai_api_key" WORKSPACE_DIR="agent_workspace" EOF -
3运行 24 点示例
把示例代码保存为 .py 文件后执行。run(task) 返回最终答案字符串;示例用 DFS 搜索、最大深度 3 解 24 点题。
from swarms import TreeOfThoughts agent = TreeOfThoughts( model_name="gpt-5.4", search_algorithm="dfs", max_depth=3, thought_description="One arithmetic operation on two of the remaining numbers.", evaluation_criteria="Can the remaining numbers still reach 24?", ) answer = agent.run("Use 4, 9, 10 and 13 with + - * / to make 24.") print(answer) -
4查看搜索过程
完整搜索树保留在 agent.last_result,可遍历最佳路径的每一步,并查看是否解出、扩展节点数、调用次数与 token 用量。
result = agent.last_result for number, step in enumerate(result.steps, 1): print(f"{number}. {step}") print(result.solved) print(result.nodes_expanded) print(result.llm_calls) print(result.usage["total_tokens"]) tree = result.to_dict()
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
OPENAI_API_KEY | 是 | 模型提供方密钥,写入工作目录的 .env,导入时自动加载 | sk-xxxxxxxxxxxxxxxx |
model_name | 否 | 任意 LiteLLM 模型字符串,模型必须支持 function calling | gpt-5.4 |
search_algorithm | 否 | 搜索方式,bfs 每层保留最优 breadth 个,dfs 优先最优子节点并回溯 | dfs |
max_depth | 否 | 一条路径上的最大步数,该深度的步骤必须完成任务 | 3 |
value_threshold | 否 | 评分低于该阈值的候选想法会被剪枝掉 | 0.5 |
thought_description | 否 | 描述你的任务中“一步”长什么样,会展示给生成器 | One arithmetic operation on two of the remaining numbers. |
如何确认成功
脚本运行后 print(answer) 输出正确结果即成功;再用 agent.last_result.solved 为 True、steps 能打印出推理路径确认搜索正常。
常见问题
Q:不用 OpenAI 密钥可以吗?
A:可以。model_name 接受任意支持 function calling 的 LiteLLM 模型,改设 ANTHROPIC_API_KEY、GROQ_API_KEY 等其它提供方密钥即可。
Q:报错说模型不支持函数调用怎么办?
A:ToT 的每次模型输出都是按 Pydantic schema 校验的函数调用,不会解析自由文本,所以要换一个支持 function calling 的模型再试。
Q:搜索结果和 token 消耗在哪里看?
A:都在 agent.last_result 上:steps 是最佳路径、solved 表示是否解出、nodes_expanded 与 llm_calls 统计开销、usage["total_tokens"] 是本次搜索的 token 用量。
Q:怎么控制调用成本?
A:调小 num_thoughts、breadth、max_depth,或设置 max_expansions 给单次搜索的扩展节点数设上限。
注意事项
- 本项目已并入 Swarms 框架,必须从 swarms 导入 TreeOfThoughts,而不是单独安装 tree-of-thoughts。
- 密钥写在当前工作目录的 .env 里,Swarms 在 import 时读取,缺失会导致调用失败。
- BFS 使用 breadth 控制束宽,DFS 会忽略该参数;dfs 走最优子节点并支持回溯。
- 同一树层的模型调用会并发执行,max_workers 默认为 8,注意提供方的并发限制。
核心亮点
- 即插即用,几行代码即可把思维树搜索接入现有 LLM 调用流程
- 在 24 点游戏等需要多步规划的任务上,官方报告推理准确率提升至少 70%
- 同时支持文本与多模态输入,并兼容 GPT-4 等主流模型
不足之处
- 多次调用模型导致 token 消耗和延迟明显高于普通提示
- 树搜索的超参数(宽度、深度、评估策略)需要针对任务手动调优
适用场景
- 数学与逻辑谜题求解,如 24 点游戏、数独推理
- 需要多方案比较的创意写作与头脑风暴
- 复杂问答或规划任务中,让模型先探索多条推理路径再给出最终答案
替代项目
LangChain、AutoGPT
上一篇:llamppl
同类项目推荐
adk-rust
开源
用 Rust 快速拼装带记忆和语音的 AI Agent
Rust Agent Development Kit (ADK-Rust): Build AI agents in Rust with modular componen···
Langchain1.0-Langgraph1.0-Learni···
开源
跟着跑一遍,从零学会用 LangChain+LangGraph 搭 Agent
这是一个 LangChain 1.0 和 LangGraph 1.0 的学习仓库,学习如何进行agent开发,涵盖从基础···
nlux
开源
几行代码给任意 LLM 套上可定制聊天界面
The Conversational AI JavaScript Library — UI for any LLM, supporting LangChain ···
Prompt-Can-Anything
开源
一句话提示词,搞定图像生成、检测与分割
You can do anything by sota AI with prompt ,auto AI tools , VL larger model fine and···
fastapi-template
开源
开箱即用的 FastAPI 项目骨架,快速搭建生产级 API。
Completely Scalable FastAPI based template for Machine Learning, Deep Learning and a···
easydist
开源
自动并行化,多框架通用,让分布式训练像单机一样简单。
Automated Parallelization System and Infrastructure for Multiple Ecosystems
embedJs
开源
几行代码搞定文档问答,快速构建 RAG 应用
A NodeJS RAG framework to easily work with LLMs and embeddings
langchain-serve
开源
一键把 Langchain 应用部署成生产级服务,省心省力
⚡ Langchain apps in production using Jina & FastAPI
intelligent-app-workshop
开源
用微软全家桶,快速上手构建AI应用
Immersive workshop showcasing the remarkable potential of integrating SoTA foundatio···