cuvs

GPU 上跑向量检索与聚类，十亿级数据也能秒级返回

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 基础设施 🍴 复刻 255 🐛 待处理 828 👀 关注 20
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 887
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源库，Apache 2.0 许可，免费使用

项目预览

cuvs 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类基础设施
开发团队NVIDIA
官网地址https://docs.nvidia.com/cuvs
GitHubhttps://github.com/NVIDIA/cuvs
定价模式🏷️完全免费
价格说明开源库，Apache 2.0 许可，免费使用
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议Apache-2.0
主要语言Cuda
技术栈/模型anns,clustering,cuda,distance,gpu,information-retrieval,llm,machine-learning,nearest-neighbors,neighborhood-methods,similarity-search,sparse,statistics,vector-search,vector-similarity,vector-store
GitHub 星标★ 887
上线时间2023-11-20 00:00:00
代码更新2026-11-04
仓库体积33.5 MB
本站数据更新2026-11-04
维护状态活跃
收录时间2026-09-16
浏览次数2

项目介绍

cuVS 是 NVIDIA 开源的 GPU 向量搜索与聚类库，属于 RAPIDS 生态的基础设施组件。它把近似最近邻搜索（ANN）、距离计算、邻居图构建和聚类等算法全部搬到 GPU 上执行，解决 CPU 方案在大规模向量数据集上检索慢、建索引耗时长的问题。核心能力包括：支持 CAGRA、IVF-Flat、IVF-PQ、暴力搜索等多种索引类型，提供统一的 C++ 与 Python 接口，可处理十亿级向量的相似度检索；同时内置 k-means、层次聚类等 GPU 聚类算法，并能与 FAISS 索引互操作。对做 RAG、推荐系统、图像检索的团队来说，cuVS 能把向量库的构建和查询吞吐提升一个数量级，是 LLM 时代向量检索基础设施的重要底层选择。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 887

使用教程

难度：进阶 约 30 分钟 部署方式：本地 GPU 4 步

环境要求

  • NVIDIA GPU
  • CUDA 12.x
  • RAPIDS 环境

安装与启动步骤

  1. 1装包

    cuVS 是 GPU 加速的向量检索库，按 CUDA 版本装对应包。

  2. 2建索引

    在 GPU 上建 CAGRA 索引，比 CPU 的 HNSW 快一个量级。

  3. 3查询

    索引建好后可留在显存里直接检索，注意显存占用。

  4. 4与 CPU 协同

    超大规模场景用 GPU 建索引再转 CPU 提供服务。

如何确认成功

能建索引并返回 top-k 结果。

注意事项

  • Python 接口在 cuvs 包里，C++ 与 Go 绑定也有，按项目语言选。

核心亮点

  • 纯 GPU 实现，CAGRA 等索引在十亿级向量上查询吞吐远超 CPU 方案
  • 由 NVIDIA RAPIDS 团队维护，支持 C++/Python，与 FAISS 索引可互转
  • 覆盖 ANN 搜索、距离计算、聚类全链路，不只是单一检索库

不足之处

  • 强依赖 NVIDIA GPU 与 CUDA 环境，无 GPU 或非 N 卡用户无法使用
  • 早期项目，API 与索引格式仍在演进，生产落地需关注版本兼容

适用场景

  • RAG 知识库的向量检索加速
  • 十亿级图像/文本 embedding 的相似度搜索
  • 大规模用户或商品向量的 GPU 聚类分析

替代项目

FAISS、Milvus

上一篇：gemini-cli-openai

下一篇：vmlx

同类项目推荐

openfirma 开源

给 AI 智能体装上硬性权限闸门，每次调用都过策略

Runtime enforcement boundary for AI agents: a local sidecar that gates every outboun···

★ 143 2026-08-09
MegaParse 开源

解析文档零丢失，直接喂给大模型

File Parser optimised for LLM Ingestion with no loss Parse PDFs, Docx, PPTx in a fo···

★ 7416 2026-08-09
ComfyUI-Nvidia-Docker 开源

一条命令拉起带 GPU 的 ComfyUI，权限不打架

ComfyUI for NVIDIA GPU in a Docker container with user configurable uid/gid

★ 441 2026-10-30
headroom 开源

喂给 AI 之前先瘦身，每五次对话省一次钱

Compress tool outputs, logs, files, and RAG chunks before they reach the LLM. 20% fe···

★ 78823 2026-08-09
mlops-platforms 开源

一张表看清主流MLOps平台差异，选型不再纠结

Compare MLOps Platforms. Breakdowns of SageMaker, VertexAI, AzureML, Dataiku, Databr···

★ 395 2026-08-09
ComfyUI-Easy-Install 开源

一键装好 ComfyUI，开箱即用不折腾环境

One-click portable ComfyUI installer for Windows, macOS and Linux, with EZi Desktop:···

★ 2048 2026-10-16
memgraph 开源

用内存图数据库给 AI 装上实时记忆，加速智能体响应。

High-performance open-source in-memory graph database for GraphRAG, AI memory, agent···

★ 4648 2026-08-09
worker-comfyui 开源

把 ComfyUI 变成按需付费的 API，秒级调用图像生成

ComfyUI as a serverless API on Runpod

★ 749 2026-08-09