lotus

海量数据批量处理，让 LLM 推理快十倍

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 157 🐛 待处理 52 👀 关注 15

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 1731

维护状态维护中

是否开源开源

定价模式 🏷️完全免费开源项目，Apache-2.0 许可证，可免费使用和部署。

项目预览

项目数据

分类开源模型

开发团队lotus-data

官网地址https://lotus-data.github.io

GitHubhttps://github.com/lotus-data/lotus

定价模式🏷️完全免费

价格说明开源项目，Apache-2.0 许可证，可免费使用和部署。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型agentic-data-processing,ai-data-processing,data,llm,llm-data-processing,llm-document-processing,pandas,python,semantic-operators,semantic-search,unstructured-data

GitHub 星标★ 1731

上线时间2024-07-16 00:00:00

代码更新2026-10-08

仓库体积3.2 MB

本站数据更新2026-11-09

维护状态维护中

收录时间2026-08-09

浏览次数5

项目介绍

Lotus 是一个专注于大规模数据处理的开源框架，旨在为代理（Agent）和大型语言模型（LLM）提供高效的批量处理能力。它解决了传统 LLM 在处理海量数据时速度慢、成本高的问题，通过优化推理调度和并行计算，显著提升吞吐量。核心能力包括：支持多种 LLM 后端（如 OpenAI、Anthropic），提供简洁的 API 进行批量推理，内置缓存和容错机制，并针对长文本和复杂任务进行优化。Lotus 适合需要处理大量文档、日志或结构化数据的场景，帮助开发者快速构建高吞吐的 AI 应用。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1731

技术标签

data llm pandas python semantic-search

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：入门约 10 分钟部署方式：库/依赖 5 步

环境要求

Python 环境（含 pip），用于安装 Python 包
有效的 LLM 后端 API Key（README 提到需设置 API Key，支持 OpenAI、Anthropic 等后端）
可访问 PyPI 或 GitHub 的网络环境

安装与启动步骤

1安装 Lotus 包

README 给出的标准安装方式，直接通过 pip 安装发行版 lotus-ai。若想体验最新特性，可改用源码方式安装。
```
pip install lotus-ai
```
2用 uv 安装（可选）

如果项目使用 uv 管理依赖，README 推荐用 uv add 方式添加依赖，效果与 pip install 一致。
```
uv add lotus-ai
```
3从源码安装（可选）

需要 main 分支最新功能时使用，直接安装 GitHub 仓库。适合想跟进开发进度的用户。
```
pip install git+https://github.com/lotus-data/lotus.git@main
```
4设置 API Key

README 的 Quickstart 明确要求先设置你的 API Key 再运行脚本。具体环境变量名请以你所用 LLM 后端（OpenAI/Anthropic 等）的文档为准。
5运行 Quickstart 脚本

新建一个 py 文件，粘贴 README Quickstart 中的示例代码（导入 lotus、LM 与 PythonREPLTool），保存后运行即可。
```
python quickstart.py
```