rlm

即插即用的递归语言模型推理库,多沙箱适配

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开发框架 🍴 复刻 917 🐛 待处理 93 👀 关注 55
GitHub ↗
GitHub 星标 ★ 5776
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,无定价信息

项目预览

rlm 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开发框架
开发团队alexzhang13
定价模式🏷️完全免费
价格说明开源免费,无定价信息
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
GitHub 星标★ 5776
上线时间2025-12-20 00:00:00
代码更新2026-11-21
仓库体积3.3 MB
本站数据更新2026-11-22
维护状态活跃
收录时间2026-11-22
浏览次数0

项目介绍

rlm 是面向递归语言模型(Recursive Language Models)的通用即插即用推理库,用 Python 编写。它把「让模型递归调用自身或子模型来分解任务」这一模式封装成可复用的推理框架,开发者无需从零搭建递归调度、上下文管理与结果聚合逻辑,即可在自己的应用中接入 RLM 式推理。项目强调 plug-and-play,提供统一接口适配多种沙箱环境,使递归推理过程可在受控的执行环境中运行,便于隔离代码执行与工具调用。核心能力包括:递归推理流程编排、多沙箱后端支持、与现有模型调用方式的低侵入集成。适合需要多步分解、自我反思或分层任务求解的智能体与推理应用场景,当前处于成长阶段,社区关注度上升较快。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-11-22 · 当前星标 ★ 5776

使用教程

难度:入门 约 10 分钟 部署方式:库/依赖 6 步

环境要求

  • Python 3.11 或更高版本
  • 可用的 OpenAI API Key(示例中通过环境变量 OPENAI_API_KEY 读取)
  • pip 包管理工具
  • 使用源码方式安装时需要 uv(可选)
  • 使用 DockerREPL 沙箱时需要已安装 Docker(可选)

安装与启动步骤

  1. 1检查 Python 版本

    先确认解释器版本不低于 3.11,版本过低会导致安装失败。

    python --version
  2. 2安装 rlms

    从 PyPI 安装官方发布的 rlms 包,这是 README 给出的快速上手方式。

    pip install rlms
  3. 3配置模型密钥

    示例使用 OpenAI 后端,需要先把 API Key 写入环境变量,供 SDK 自动读取。

    export OPENAI_API_KEY=sk-xxxxxxxx
  4. 4运行最小示例

    将 README 中的示例代码保存为 demo.py 后执行,verbose 为 True 时会在控制台打印过程信息。

    from rlm import RLM
    
    rlm = RLM(
        backend="openai",
        backend_kwargs={"model_name": "gpt-5-nano"},
        verbose=True,
    )
    
    print(rlm.completion("Print me the first 100 powers of two, each on a newline.").response)
  5. 5源码方式安装

    如需在仓库目录内开发式安装,先装 uv,创建虚拟环境后安装项目依赖(需先进入项目目录)。

    curl -LsSf https://astral.sh/uv/install.sh | sh
    uv init && uv venv --python 3.12
    uv pip install -e .
  6. 6执行快速验证

    项目自带 Makefile 的 quickstart 目标会用 OPENAI_API_KEY 发起一次查询,并生成可用可视化工具查看的日志。

    make quickstart

关键配置

配置项必填说明示例
OPENAI_API_KEY是OpenAI 后端鉴权用的密钥,从环境变量读取sk-xxxxxxxx
backend是指定推理后端,示例使用 openaiopenai
backend_kwargs.model_name是传给后端的模型名称gpt-5-nano
verbose否是否用 rich 在控制台打印过程,默认关闭True
experimental_spec_ptc否是否开启实验性 spec-ptc 支持,需 Python 3.12+True

如何确认成功

运行示例后控制台打印出 100 个 2 的幂(每行一个),verbose 开启时还能看到推理过程输出。

常见问题

Q:Python 版本低于 3.11 能装吗?

A:README 明确要求 Python 3.11 或更高版本,建议先升级解释器或创建 3.12 的虚拟环境再安装。

Q:没有安装 uv 可以安装吗?

A:可以。直接用 pip install rlms 即可;uv 只是 README 中手动源码安装流程使用的环境管理工具。

Q:示例提示找不到密钥怎么办?

A:确认 OPENAI_API_KEY 已经在当前终端会话中导出,可用 echo $OPENAI_API_KEY 检查后再运行脚本。

Q:想用 Docker 隔离执行环境怎么配?

A:可使用 DockerREPL,默认镜像为 python:3.11-slim,也支持自定义镜像,需要本机已安装 Docker。

Q:默认 REPL 会执行什么代码?

A:默认在宿主 Python 进程里通过 exec 执行,与宿主共享同一虚拟环境和依赖,仅部分全局模块受限。

注意事项

  • 默认 REPL 与宿主进程共享同一虚拟环境,隔离性有限;需要强隔离时改用 DockerREPL。
  • 实验性 spec-ptc 仅支持 LocalREPL,且需要 Python 3.12+,安装方式为 pip install 'rlms[spec-ptc]'。
  • 使用 IPythonREPL 需额外安装 pip install 'rlms[ipython]'。
  • README 示例中的模型名 gpt-5-nano 可替换为你账号可用的其他模型。

核心亮点

  • 把递归推理的调度、上下文管理和结果聚合封装成即插即用接口,接入成本低
  • 统一抽象多种沙箱后端,递归过程中的代码执行与工具调用可在受控环境运行
  • Python 实现,与主流模型调用生态兼容,便于嵌入现有智能体或推理管线

不足之处

  • 项目处于早期成长阶段,API 与文档可能随版本快速变动
  • 递归推理对模型调用次数和沙箱资源消耗较大,成本与延迟需自行评估

适用场景

  • 构建需要多步分解与自我反思的推理型智能体
  • 在隔离沙箱中运行模型生成的代码并递归校验结果
  • 研究递归语言模型范式、快速搭建实验原型

替代项目

LangGraph、DSPy、AutoGen

上一篇:langchain-demos

下一篇:没有了!

同类项目推荐

ChatUI 开源

用 React 快速搭建专业聊天界面,省时又好看

The UI design language and React library for Conversational UI

★ 4465 2026-08-09
chidori 开源

让AI运行永不丢失,断点续跑自动恢复

The agent framework where every run is durable, replayable, and resumable by default···

★ 1371 2026-08-09
text-to-sql-bedrock-workshop 开源

在 Bedrock 上从零到精通 Text-to-SQL,动手练出高准确率查询

This repository is intended for those looking to dive deep on advanced Text-to-SQL c···

★ 134 2026-08-09
poe-api-wrapper 开源

一行代码免费调用 GPT-4、Claude 等大模型,省去多平台 API 费用。

A Python API wrapper for Poe.com. With this, you will have free access to GPT-4, Cla···

★ 1088 2026-08-09
PromptHub 开源

一站式管理提示词、技能和智能体,告别碎片化,提升 AI 开发效率。

一款包含了 Prompt管理,Skill管理,Agent管理的一站式AI工具箱,助你高效管理提示词,一键···

★ 1831 2026-08-09
LLM-Blender 开源

融合多个大模型,取长补短,获得更优回复。

[ACL2023] We introduce LLM-Blender, an innovative ensembling framework to attain con···

★ 999 2026-08-09
chainlit 开源

几分钟内把 LLM 变成可交互的聊天应用

Build Conversational AI in minutes ⚡️

★ 12499 2026-08-09
koishi 开源

一套代码,让机器人无缝连接所有聊天平台。

Cross-platform chatbot framework made with love

★ 6350 2026-08-09
Arcade-Learning-Environment 开源

用 Atari 2600 游戏快速搭建和评测强化学习智能体

A simple framework that allows researchers and hobbyists to develop AI agents for At···

★ 2463 2026-09-22