buffer-of-thought-llm

给大模型装个思想缓存，复杂推理更准更稳

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 66 🐛 待处理 14 👀 关注 26

GitHub ↗

GitHub 星标 ★ 678

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源项目，MIT许可证，完全免费，可自行部署使用。

项目预览

buffer-of-thought-llm 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类开源模型

开发团队YangLing0818

GitHubhttps://github.com/YangLing0818/buffer-of-thought-llm

定价模式🏷️完全免费

价格说明开源项目，MIT许可证，完全免费，可自行部署使用。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议MIT

主要语言Python

技术栈/模型chain-of-thought-reasoning,large-language-models,llm-reasoning,retrieval-augmented-generation

GitHub 星标★ 678

上线时间2024-06-06 00:00:00

代码更新2025-06-28

仓库体积1.1 MB

本站数据更新2026-11-09

维护状态低维护

收录时间2026-08-09

浏览次数3

项目介绍

Buffer of Thoughts（BoT）是一个NeurIPS 2024 Spotlight开源项目，旨在通过“思想缓冲”机制增强大语言模型的多步推理能力。它解决的是LLM在复杂推理任务中单次思考易出错、缺乏全局规划的问题。核心能力包括：维护一个动态的“思想缓冲池”，存储不同任务类型的高层推理模板（如数学、代码、常识推理等）；在推理时，模型先从缓冲池中检索相关模板，再基于模板进行细化推理，最后通过元推理器验证结果。项目提供了完整的实现代码、预训练模板和实验脚本，支持与多种主流LLM集成，显著提升在数学、代码生成、逻辑推理等基准上的准确率，同时保持较低的计算开销。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 678

技术标签

large-language-models llm-reasoning retrieval-augmented-generation

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：高级约 70 分钟部署方式：本地安装 4 步

环境要求

Python 3.10+
模型 API Key
评测数据集

安装与启动步骤

1克隆仓库

论文的官方实现，用思维模板提升推理效果。
```
git clone https://github.com/YangLing0818/buffer-of-thought-llm
```
2装依赖

按 requirements 装，注意模型客户端版本。
```
pip install -r requirements.txt
```
3准备思维模板库

仓库自带模板集，先按示例跑通再扩充。
4跑推理对比

同一批问题开不开模板各跑一次，比较准确率。