recursive-llm

把百万字上下文丢进 REPL,让模型写代码按需读,省 token 做长文分析

recursive-llm 是一个研究型开源项目,实现了「递归语言模型」(Recursive Language Models)思路,用来处理超长上下文任务。它的核心做法是把待分析的长文本或上下文存放到一个 Python REPL 环境中,让模型通过写代码、调用 REPL 来按需检索和操作上下文,而不是把上百万 token 一次性塞进提示词。这样做的目的是在分析 1M+ token 级别的材料时,显著降低实际消耗的 LLM token 数量,同时保持对全局信息的可访问性。项目用 Python 实现,适合研究者、工程师探索长文档问答、代码库分析、大规模资料归纳等场景。它更像一个可复现的论文原型,而非开箱即用的产品,需要自行配置模型接口和运行环境。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 604
维护状态 较活跃
是否开源
定价模式 free

项目数据

分类开源模型
开发团队grishahq
所属国家
官网地址
定价模式free
价格说明开源免费,需自行部署
访问状态
是否开源
开源协议MIT
主要语言Python
技术栈/模型
GitHub 星标★ 604
30天Star增速
HF 下载量
上线时间2025-10-17 00:00:00
最近更新2026-09-16 00:00:00
维护状态较活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-09-16
浏览次数0

使用教程

核心亮点

  • 用 Python REPL 承载上下文,模型按需检索,避免把 1M+ token 全量塞进提示词,token 消耗明显下降
  • 思路新颖,把递归/代码执行与长上下文处理结合,适合做长文档、代码库级别的分析实验
  • Python 实现,代码结构相对轻量,便于研究者阅读、修改和复现论文思路

不足之处

  • 属于早期研究原型,工程化和易用性有限,缺少开箱即用的封装
  • 依赖模型接口与 REPL 执行环境,配置和稳定性需要自行调试,文档/社区待观察

适用场景

  • 分析上百页合同、论文或报告,需要跨章节检索和归纳
  • 对大型代码仓库做整体理解与问答,上下文远超单次提示词上限
  • 构建长上下文 Agent 或 RAG 替代方案的研究与实验

替代项目

llama_index、langchain

项目介绍

recursive-llm 是一个开源模型领域的开源项目,官方简介:Recursive Language Models for efficient long-context processing. Analyze 1M+ tokens by storing context in a Python REPL while reducing LLM token usage.。项目使用 Python 开发,在 GitHub 上获得 603 星标。

上一篇:MiniCPM

下一篇:EveryonesLLM

同类项目推荐

Machine-Learning 开源

跟着博客笔记,边看边跑机器学习代码

All content related to machine learning from my blog

★ 115 2026-08-09
CoreML-Models 开源

下载即用的苹果端 AI 模型库,免去转换烦恼

Core ML model zoo for iOS/macOS — PyTorch models converted to ready-to-use .mlpacka···

★ 1870 2026-08-10