项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 1051
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- NVIDIA GPU 及与安装命令匹配的 CUDA 环境(README 要求按 CUDA 版本选择安装方式)
- Conda 包管理器,README 明确推荐优先使用 mamba 代替 conda
- Python 环境(仅在使用 pylibraft / raft-dask 时需要)
- Git(需要下载源码、使用 C++ 头文件或示例时)
安装与启动步骤
-
1确认 GPU 与 CUDA
安装前先确认机器有 NVIDIA GPU 并明确 CUDA 版本,因为 README 要求按 CUDA 版本选择对应的安装命令。
nvidia-smi -
2准备 conda/mamba
RAFT 的 C++ 头文件和 Python 库均可通过 conda 安装,README 建议优先用 mamba 执行安装命令。
-
3conda 安装 RAFT 包
按 CUDA 版本对应的命令安装。libraft-headers 为 C++ 头文件,pylibraft 为 Python 库,raft-dask 用于多节点多 GPU 的 Dask 部署,均可选装。
-
4可选:pip 安装 Python 包
pylibraft 和 raft-dask 提供实验性 pip 包,可按官方 pip 安装页说明安装,稳定性低于 conda 包。
-
5获取源码
需要 C++ 头文件、示例或基准测试时,从 GitHub 克隆仓库源码,示例可用于验证性能。
git clone https://github.com/rapidsai/raft.git -
6源码构建参考
若需从源码构建,按官方《Build and Install RAFT》文档执行,README 未在本节给出具体构建命令。
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
CUDA 版本 | 是 | 决定使用哪一条 conda 安装命令,需与本机驱动匹配 | 12.x |
安装源(rapidsai / rapidsai-nightly) | 否 | 换成 rapidsai-nightly 可获取更新但稳定性更低的每日构建包 | rapidsai-nightly |
如何确认成功
在 Python 环境执行 import pylibraft 无报错即安装成功;更多验证方式参见 README 链接的快速上手文档 docs/source/quick_start.md。
常见问题
Q:conda 里几个包该怎么选?
A:libraft-headers 提供 C++ 头文件;pylibraft 是 Python 库;raft-dask 用于基于 raft::comms 抽象层在 Dask 集群上跑多节点多 GPU 算法。按需求选装。
Q:想装最新版本怎么办?
A:把安装源中的 rapidsai 替换成 rapidsai-nightly,即可安装更新更频繁但稳定性较低的每日构建包。
Q:只想要 Python 接口可以吗?
A:可以。pylibraft 与 raft-dask 都有实验性 pip 包,安装方式见 https://rapids.ai/pip.html#install 。
Q:怎么从源码编译安装?
A:参照 README 给出的《Build and Install RAFT》文档 docs/source/build.md 中的说明进行构建与安装。
Q:用 conda 还是 mamba?
A:README 明确说明更推荐使用 mamba 命令执行 conda 安装,二者安装的包内容一致。
注意事项
- RAFT 是 CUDA 加速的基础算法库,必须运行在 NVIDIA GPU 环境中。
- README 节选中 conda 与 pip 的命令代码块未包含完整命令内容,请以官网在线文档为准,不要照搬臆测的参数。
- pylibraft 与 raft-dask 的 pip 包为实验性,生产环境建议优先使用 conda 安装。
- 本教程仅依据所给 README 节选整理,未出现过的包名、端口、路径均未补充。
核心亮点
- 由 NVIDIA 官方维护,CUDA 优化质量高,性能接近手写内核
- 提供 Python 与 C++ 双接口,可灵活嵌入现有 GPU 流水线
- 覆盖距离计算、KNN、聚类、线性代数等常用原语,减少重复造轮子
不足之处
- 强依赖 NVIDIA GPU 与 CUDA 生态,无法在 AMD/Intel 或纯 CPU 环境使用
- API 迭代较快,版本升级可能带来兼容性调整成本
适用场景
- 构建大规模向量检索或推荐系统的 GPU 召回层
- 为大模型 RAG 流程加速最近邻搜索与相似度计算
- 在科学计算或数据分析中替换低效的 CPU 算子
替代项目
Faiss、cuML、Milvus
上一篇:csghub-server
下一篇:tpu-mlir
同类项目推荐
rampart
开源
给 AI 代理装上防火墙,控制它们在你电脑上的一举一动。
Open-source firewall for AI agents. Policy engine that audits and controls what Open···
comfy2go
开源
用 Go 轻松接入 ComfyUI,快速实现图像生成服务
A Go-based API that acts as a bridge to the ComfyUI backend
aligned
开源
像 DBT 管数仓一样,理清 ML 数据依赖,减少技术债
The DBT of ML, as Aligned describes data dependencies in ML systems, and reduce tech···
ComfyUI-Windows-Portable
开源
解压即用的 ComfyUI 整合包,省去配置烦恼
ComfyUI standalone pack with 40+ custom nodes. | ComfyUI 大号整合包,预装大量自定义节···
Strata
开源
一键把大模型装进自己电脑,本地 API 即开即用
Qwen3.8-Flash-Next on any consumer hardware: one-click install for Windows / Linux. ···
coze-loop
开源
一站式调试、评估、监控你的 AI Agent,让开发更高效
Next-generation AI Agent Optimization Platform: Cozeloop addresses challenges in AI ···
router
开源
换一个端点,50 毫秒内自动选对模型,成本直降 70%
Model router for agentic systems. Routes every prompt to the right model in <50ms. C···
llm-on-openshift
开源
在 OpenShift 上快速跑通 LLM 部署与推理
Resources, demos, recipes,... to work with LLMs on OpenShift with OpenShift AI or Op···
minimal-embodiment
开源
给大模型装上身体,实现感知-行动闭环
A minimal hardware-software architecture giving large language models a closed-loop ···
