openlake

加速 LLM 训练与推理，让 GPU 不再等数据

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 420 🐛 待处理 149 👀 关注 48

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 2903

维护状态活跃

是否开源开源

定价模式 🏷️完全免费开源项目，Apache-2.0许可证，可免费使用和部署。

项目预览

项目数据

分类开源模型

开发团队openlake-project

官网地址https://theopenlake.com

GitHubhttps://github.com/openlake-project/openlake

定价模式🏷️完全免费

价格说明开源项目，Apache-2.0许可证，可免费使用和部署。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Rust

技术栈/模型blackwell,gpt,gpu,high-performance,llm,llm-training,model-serving,rdma,rust,storage,throughput

GitHub 星标★ 2903

上线时间2026-04-27 00:00:00

代码更新2026-11-09

仓库体积4.6 MB

本站数据更新2026-11-09

维护状态活跃

收录时间2026-08-09

浏览次数6

项目介绍

OpenLake 是一个用 Rust 编写的高性能存储引擎，专为大型语言模型（LLM）推理和 GPU 训练而设计。它解决的是传统数据存储系统在 AI 工作负载下性能瓶颈问题，通过优化数据布局、IO 路径和缓存策略，实现高效的数据读写。核心能力包括：支持大规模模型权重和训练数据的快速加载、减少 GPU 空闲等待时间、提供与主流深度学习框架的无缝集成。其设计注重高吞吐和低延迟，能够显著提升训练和推理的效率，适用于需要频繁访问海量数据的 AI 场景。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 2903

技术标签

gpt gpu llm llm-training model-serving

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：进阶约 30 分钟部署方式：本地安装 7 步

环境要求

Linux 系统（需安装 ca-certificates、build-essential、pkg-config、clang、cmake、libhwloc-dev
macOS 需安装 Xcode 命令行工具与 cmake、pkg-config
Windows 需先安装 WSL2 与 Ubuntu
Rust 工具链（rustup）
GPU 节点上需可用 vLLM 环境

安装与启动步骤

1安装系统依赖

Linux/WSL 下更新源并安装编译 openlake 所需的构建工具与库；macOS 用户改用 xcode-select 与 brew 安装。

sudo apt-get update
sudo apt-get install -y --no-install-recommends ca-certificates build-essential pkg-config clang cmake libhwloc-dev libudev-dev curl git

2安装 Rust 工具链

通过 rustup 安装 Rust 并加载 cargo 环境变量，之后才能编译或运行 Rust 版本的 openlake 组件。
```
curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh -s -- -y && . "$HOME/.cargo/env"
```
3安装 macOS 依赖

macOS 用户执行此行命令安装 Xcode 命令行工具及 cmake、pkg-config，Linux 用户可跳过此步。
```
xcode-select --install
brew install cmake pkg-config
```
4Windows 安装 WSL

Windows 用户需在管理员 PowerShell 中安装 WSL 与 Ubuntu 发行版，随后在 Ubuntu shell 内执行前述依赖与 Rust 安装命令。
```
wsl --install -d Ubuntu
wsl
```
5安装 vLLM 连接器

在 GPU 节点上安装 openlake-vllm 连接器，它提供与 vLLM 集成的 OpenLakeConnector 模块。
```
pip install openlake-vllm
```
6启动 OpenLake 存储

运行 openlaked 启动本地存储服务；跨 GPU 集群场景需按节点用 --config 指定 kv_rdma 配置文件。
```
openlaked
```

7用 vLLM 验证集成

设置 PYTHONHASHSEED 后启动 vLLM 服务，通过 kv-transfer-config 指定 OpenLake 连接器与节点地址。

export PYTHONHASHSEED=0
vllm serve <model_name> --kv-transfer-config '{"kv_connector":"OpenLakeConnector","kv_connector_module_path":"openlake_client.openlake_connector","kv_role":"kv_both","kv_connector_extra_config":{"openlake_nodes":["127.0.0.1:9400"],"openlake_device":"local"}}'

关键配置

配置项	必填	说明	示例
`kv_connector`	是	指定 vLLM 使用的 KV 连接器实现类	`OpenLakeConnector`
`kv_connector_module_path`	是	连接器所在 Python 模块路径	`openlake_client.openlake_connector`
`kv_role`	是	KV 缓存角色，kv_both 表示收发兼顾	`kv_both`
`openlake_nodes`	是	OpenLake 节点地址列表，格式为 IP:端口	`["127.0.0.1:9400"]`
`openlake_device`	是	本地存储或 RDMA 网卡设备名	`local`
`--config`	否	openlaked 启动参数，指定 kv_rdma 配置文件以启用跨主机	`kv_rdma_0.toml`