recursive-llm

把百万字上下文丢进 REPL,让模型写代码按需读,省 token 做长文分析

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 86 👀 关注 6
GitHub ↗
GitHub 星标 ★ 615
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,需自行部署

项目预览

recursive-llm 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队grishahq
定价模式🏷️完全免费
价格说明开源免费,需自行部署
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
GitHub 星标★ 615
上线时间2025-10-17 00:00:00
代码更新2026-11-02
仓库体积4.2 MB
本站数据更新2026-11-04
维护状态活跃
收录时间2026-09-16
浏览次数1

项目介绍

recursive-llm 是一个研究型开源项目,实现了「递归语言模型」(Recursive Language Models)思路,用来处理超长上下文任务。它的核心做法是把待分析的长文本或上下文存放到一个 Python REPL 环境中,让模型通过写代码、调用 REPL 来按需检索和操作上下文,而不是把上百万 token 一次性塞进提示词。这样做的目的是在分析 1M+ token 级别的材料时,显著降低实际消耗的 LLM token 数量,同时保持对全局信息的可访问性。项目用 Python 实现,适合研究者、工程师探索长文档问答、代码库分析、大规模资料归纳等场景。它更像一个可复现的论文原型,而非开箱即用的产品,需要自行配置模型接口和运行环境。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 615

使用教程

难度:进阶 约 30 分钟 部署方式:本地安装 4 步

环境要求

  • Python 3.10+
  • 模型服务密钥

安装与启动步骤

  1. 1装库

    发布版即可,也可以从仓库装最新。

    pip install recursive-llm
  2. 2跑快速上手

    示例能看到它如何把长文本拆成可递归的子问题。

    python quickstart.py
  3. 3做同模型对比

    自带对照脚本,能量出与一次性塞入的差别。

    python benchmarks/compare_same_model.py gpt-5-mini
  4. 4换你的长文档

    拿一份真实长文试,重点看成本与召回是否都能接受。

如何确认成功

同一份长文档,递归模式在成本明显低于直塞的同时答对了原文里的细节问题

注意事项

  • 它用代码解释器在原文上做检索,而不是把所有内容塞进上下文。
  • 拆解层数一多,递归开销会反超,别默认开很深。
  • 对照脚本用的是公开语料,你的文档结构不同结论也可能不同。
  • 适合长报告与代码库,短文本上没必要用。

核心亮点

  • 用 Python REPL 承载上下文,模型按需检索,避免把 1M+ token 全量塞进提示词,token 消耗明显下降
  • 思路新颖,把递归/代码执行与长上下文处理结合,适合做长文档、代码库级别的分析实验
  • Python 实现,代码结构相对轻量,便于研究者阅读、修改和复现论文思路

不足之处

  • 属于早期研究原型,工程化和易用性有限,缺少开箱即用的封装
  • 依赖模型接口与 REPL 执行环境,配置和稳定性需要自行调试,文档/社区待观察

适用场景

  • 分析上百页合同、论文或报告,需要跨章节检索和归纳
  • 对大型代码仓库做整体理解与问答,上下文远超单次提示词上限
  • 构建长上下文 Agent 或 RAG 替代方案的研究与实验

替代项目

llama_index、langchain

上一篇:MiniCPM

下一篇:EveryonesLLM

同类项目推荐

OmniTokenizer 开源

一个模型搞定图像视频分词,统一 token 化,加速多模态生成

[NeurIPS 2024]OmniTokenizer: one model and one weight for image-video joint tokeniza···

★ 333 2026-08-09
HyperSIGMA 开源

高光谱遥感一站式基础模型,开箱即用做分类检测

The official repo for [TPAMI'25] "HyperSIGMA: Hyperspectral Intelligence Comprehensi···

★ 395 2026-08-09
Awesome-LLM-KG 开源

一页看懂LLM与知识图谱融合的所有关键论文

Awesome papers about unifying LLMs and KGs

★ 2620 2026-08-09
Bonsai-demo 开源

一键运行 Bonsai 模型示例,快速上手二次开发

Bonsai Demo

★ 3481 2026-08-09
Awesome-Diffusion-LLM 开源

一页看尽扩散+大模型论文,快速入门新方向

A comprehensive list of papers about Large-Language-Diffusion-Models.

★ 111 2026-08-09
xlstm 开源

让 LSTM 重获新生,长序列建模更快更省

Official repository of the xLSTM.

★ 2214 2026-08-09
dolly 开源

用少量数据快速微调出企业自己的对话模型

Databricks’ Dolly, a large language model trained on the Databricks Machine Learnin···

★ 10813 2026-08-09
CodeGen 开源

自然语言直接生成代码,媲美Codex的开源模型

CodeGen is a family of open-source model for program synthesis. Trained on TPU-v4. C···

★ 5181 2026-08-09