lotus

海量数据批量处理，让 LLM 推理快十倍

Lotus 是一个专注于大规模数据处理的开源框架，旨在为代理（Agent）和大型语言模型（LLM）提供高效的批量处理能力。它解决了传统 LLM 在处理海量数据时速度慢、成本高的问题，通过优化推理调度和并行计算，显著提升吞吐量。核心能力包括：支持多种 LLM 后端（如 OpenAI、Anthropic），提供简洁的 API 进行批量推理，内置缓存和容错机制，并针对长文本和复杂任务进行优化。Lotus 适合需要处理大量文档、日志或结构化数据的场景，帮助开发者快速构建高吞吐的 AI 应用。

开源 free 开源模型

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 1689

维护状态维护中

是否开源是

定价模式 free

项目数据

分类开源模型

开发团队lotus-data

所属国家

官网地址https://lotus-data.github.io

GitHubhttps://github.com/lotus-data/lotus

定价模式free

价格说明开源项目，Apache-2.0 许可证，可免费使用和部署。

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型agentic-data-processing,ai-data-processing,data,llm,llm-data-processing,llm-document-processing,pandas,python,semantic-operators,semantic-search,unstructured-data

GitHub 星标★ 1689

30天Star增速

HF 下载量

上线时间2024-07-16 00:00:00

最近更新2026-09-23 00:00:00

维护状态维护中

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数4

使用教程

难度：入门约 10 分钟部署方式：库/依赖 5 步

环境要求

Python 环境（含 pip），用于安装 Python 包
有效的 LLM 后端 API Key（README 提到需设置 API Key，支持 OpenAI、Anthropic 等后端）
可访问 PyPI 或 GitHub 的网络环境

安装与启动步骤

1安装 Lotus 包

README 给出的标准安装方式，直接通过 pip 安装发行版 lotus-ai。若想体验最新特性，可改用源码方式安装。
```
pip install lotus-ai
```
2用 uv 安装（可选）

如果项目使用 uv 管理依赖，README 推荐用 uv add 方式添加依赖，效果与 pip install 一致。
```
uv add lotus-ai
```
3从源码安装（可选）

需要 main 分支最新功能时使用，直接安装 GitHub 仓库。适合想跟进开发进度的用户。
```
pip install git+https://github.com/lotus-data/lotus.git@main
```
4设置 API Key

README 的 Quickstart 明确要求先设置你的 API Key 再运行脚本。具体环境变量名请以你所用 LLM 后端（OpenAI/Anthropic 等）的文档为准。
5运行 Quickstart 脚本

新建一个 py 文件，粘贴 README Quickstart 中的示例代码（导入 lotus、LM 与 PythonREPLTool），保存后运行即可。
```
python quickstart.py
```

关键配置

配置项	必填	说明	示例
`API Key`	是	README 要求运行前设置你的 LLM 后端 API Key，用于调用模型	`sk-xxxxxxxx`

如何确认成功

导入 lotus 不报错，且 Quickstart 脚本能成功调用 LLM 并返回结果（无 ImportError 或鉴权错误）。

常见问题

Q：pip 安装后导入 lotus 报错怎么办？

A：确认安装的是 lotus-ai 而不是同名的其他包，并检查当前 Python 环境与 pip 是否为同一环境；必要时用 pip install git+https://github.com/lotus-data/lotus.git@main 重装。

Q：必须用 uv 吗？

A：不必。README 提供两种方式：pip install lotus-ai 或 uv add lotus-ai，二选一即可。

Q：从哪里获取 API Key？

A：README 只说需要设置自己的 API Key，未指定变量名或申请地址，请按你使用的模型后端（如 OpenAI、Anthropic）官方文档申请并配置。

Q：想用最新功能怎么办？

A：README 建议从源码安装：pip install git+https://github.com/lotus-data/lotus.git@main，即可获取 main 分支的最新特性。

注意事项

README 未给出 API Key 对应的具体环境变量名，需自行查阅所用模型后端文档。
README 节选中的 Quickstart 代码不完整（示例被截断），完整可运行示例请参考仓库 examples 目录与官方文档。
更多安装说明见官方文档 https://lotus-ai.readthedocs.io/en/latest/installation.html。
LOTUS 通过语义算子优化批量处理，适合大规模文档、日志等数据场景。

核心亮点

针对批量推理深度优化，吞吐量提升显著，实测可达 10 倍以上
API 设计简洁，支持 OpenAI、Anthropic 等多后端，接入成本低
内置缓存与容错机制，处理大规模任务时稳定性强

不足之处

文档相对简略，高级用法示例不足
社区规模尚小，生态和第三方集成待完善

适用场景

大规模文档分类与信息抽取
日志数据批量分析与摘要生成
Agent 任务中的多轮批量推理加速

替代项目

LangChain、Haystack、LlamaIndex

项目介绍

lotus 是智能体领域的开源项目，由 lotus-data 开发，2024 年首次发布。

在全站 13,014 个收录项目中，它的 GitHub 星标数（1,689）位列前 30%，在智能体分类中处于中上游。

近 42 天，它的 GitHub 星标从 1,658 增加到 1,689，净增 31。

项目仍在小幅维护中，最近一次代码更新于 2026-09-23。Apache-2.0 许可证，可免费使用和部署。

它主要面向的使用场景是：大规模文档分类与信息抽取。同类可对比的替代方案包括 LangChain、Haystack、LlamaIndex。

上一篇：AgentDock

下一篇：react-agent