
recursive-llm
把百万字上下文丢进 REPL,让模型写代码按需读,省 token 做长文分析
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 615
使用教程
环境要求
- Python 3.10+
- 模型服务密钥
安装与启动步骤
-
1装库
发布版即可,也可以从仓库装最新。
pip install recursive-llm -
2跑快速上手
示例能看到它如何把长文本拆成可递归的子问题。
python quickstart.py -
3做同模型对比
自带对照脚本,能量出与一次性塞入的差别。
python benchmarks/compare_same_model.py gpt-5-mini -
4换你的长文档
拿一份真实长文试,重点看成本与召回是否都能接受。
如何确认成功
同一份长文档,递归模式在成本明显低于直塞的同时答对了原文里的细节问题
注意事项
- 它用代码解释器在原文上做检索,而不是把所有内容塞进上下文。
- 拆解层数一多,递归开销会反超,别默认开很深。
- 对照脚本用的是公开语料,你的文档结构不同结论也可能不同。
- 适合长报告与代码库,短文本上没必要用。
核心亮点
- 用 Python REPL 承载上下文,模型按需检索,避免把 1M+ token 全量塞进提示词,token 消耗明显下降
- 思路新颖,把递归/代码执行与长上下文处理结合,适合做长文档、代码库级别的分析实验
- Python 实现,代码结构相对轻量,便于研究者阅读、修改和复现论文思路
不足之处
- 属于早期研究原型,工程化和易用性有限,缺少开箱即用的封装
- 依赖模型接口与 REPL 执行环境,配置和稳定性需要自行调试,文档/社区待观察
适用场景
- 分析上百页合同、论文或报告,需要跨章节检索和归纳
- 对大型代码仓库做整体理解与问答,上下文远超单次提示词上限
- 构建长上下文 Agent 或 RAG 替代方案的研究与实验
替代项目
llama_index、langchain
上一篇:MiniCPM
下一篇:EveryonesLLM
同类项目推荐
OmniTokenizer
开源
一个模型搞定图像视频分词,统一 token 化,加速多模态生成
[NeurIPS 2024]OmniTokenizer: one model and one weight for image-video joint tokeniza···
HyperSIGMA
开源
高光谱遥感一站式基础模型,开箱即用做分类检测
The official repo for [TPAMI'25] "HyperSIGMA: Hyperspectral Intelligence Comprehensi···
Awesome-LLM-KG
开源
一页看懂LLM与知识图谱融合的所有关键论文
Awesome papers about unifying LLMs and KGs
Bonsai-demo
开源
一键运行 Bonsai 模型示例,快速上手二次开发
Bonsai Demo
Diffusion-Models-Papers-Survey-T···
开源
学视频生成怕绕路?这份资料库帮你理清
Diffusion model papers, survey, and taxonomy
Awesome-Diffusion-LLM
开源
一页看尽扩散+大模型论文,快速入门新方向
A comprehensive list of papers about Large-Language-Diffusion-Models.
xlstm
开源
让 LSTM 重获新生,长序列建模更快更省
Official repository of the xLSTM.
dolly
开源
用少量数据快速微调出企业自己的对话模型
Databricks’ Dolly, a large language model trained on the Databricks Machine Learnin···
CodeGen
开源
自然语言直接生成代码,媲美Codex的开源模型
CodeGen is a family of open-source model for program synthesis. Trained on TPU-v4. C···