infinity

为LLM应用而生的极速混合搜索数据库,毫秒级检索知识

Infinity 是一个专为 LLM 应用打造的 AI 原生数据库,核心解决大模型应用中知识检索的效率和准确性问题。它支持稠密向量、稀疏向量、张量(多向量)和全文检索的混合搜索,能够在一个系统内同时处理语义搜索和关键词匹配,提供毫秒级响应。项目采用 C++ 编写,性能强劲,支持高并发和水平扩展,并提供了 Python、JavaScript 等客户端 SDK,方便开发者快速集成。其核心能力包括:多种索引类型(如 HNSW、稀疏倒排)、强大的过滤功能、以及对 RAG 工作流的优化,旨在成为 LLM 应用的数据基础设施。

开源 free 搜索知识
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 4716
维护状态 活跃
是否开源
定价模式 free

项目数据

分类搜索知识
开发团队infiniflow
所属国家
定价模式free
价格说明开源项目,Apache-2.0许可证,可免费使用和部署。
访问状态
是否开源
开源协议Apache-2.0
主要语言C++
技术栈/模型ai-native,approximate-nearest-neighbor-search,bm25,cpp20,cpp20-modules,embedding,full-text-search,hnsw,hybrid-search,information-retrival,multi-vector,nearest-neighbor-search,rag,search-engine,tensor-database,vector,vector-database,vector-search,vectordatabase
GitHub 星标★ 4716
30天Star增速
HF 下载量
上线时间2022-07-18 00:00:00
最近更新2026-09-22 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数4

使用教程

难度:入门 约 15 分钟 部署方式:本地安装 5 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 已运行的 Infinity 服务端(README 的 Install Infinity server 章节为空,需按官方文档以二进制方式部署)
  • Python 环境,用于安装 infinity-sdk 客户端
  • 客户端能通过 IP 与 23817 端口访问服务端

安装与启动步骤

  1. 1安装客户端 SDK

    README 明确指定 0.7.3 版本,建议按此版本安装以避免与服务端不匹配。

    pip install infinity-sdk==0.7.3
  2. 2启动 Infinity 服务端

    README 只给出指向官方文档的链接,未提供具体命令,请按该文档以二进制方式启动服务端。

  3. 3连接服务端

    把 SERVER_IP_ADDRESS 换成实际服务端地址,示例用本机 127.0.0.1,端口为 README 中的 23817。

    import infinity
    
    infinity_obj = infinity.connect(infinity.NetworkAddress("127.0.0.1", 23817))
    db_object = infinity_obj.get_database("default_db")
  4. 4建表并写入数据

    创建 my_table,包含整型 num、字符串 body 和 4 维浮点向量 vec,然后插入两条示例数据。

    table_object = db_object.create_table("my_table", {"num": {"type": "integer"}, "body": {"type": "varchar"}, "vec": {"type": "vector, 4, float"}})
    table_object.insert([{"num": 1, "body": "unnecessary and harmful", "vec": [1.0, 1.2, 0.8, 0.9]}])
    table_object.insert([{"num": 2, "body": "Office for Harmful Blooms", "vec": [4.0, 4.2, 4.3, 4.5]}])
  5. 5执行向量检索

    用 match_dense 对 vec 做稠密向量检索,距离度量 ip、返回前 2 条,并用 to_pl() 转成表格打印。

    res = table_object.output(["*"]).match_dense("vec", [3.0, 2.8, 2.7, 3.1], "float", "ip", 2).to_pl()
    print(res)

关键配置

配置项必填说明示例
SERVER_IP_ADDRESSInfinity 服务端地址,客户端连接时使用127.0.0.1
23817README 示例中的服务端连接端口23817
infinity-sdk客户端 SDK 版本,README 指定为 0.7.30.7.3

如何确认成功

运行脚本后无报错,并成功打印出包含两条向量检索结果的表格,即表示连接与检索正常。

常见问题

Q:README 里 Install Infinity server 章节是空的,服务端怎么装?

A:README 未给出服务端安装命令,只提供了“Deploy Infinity using binary”文档链接,请访问该文档按官方步骤以二进制方式部署服务端。

Q:连接服务端失败怎么办?

A:检查 NetworkAddress 中的 IP 是否可访问、端口是否为 23817、服务端进程是否已启动,以及防火墙是否放行该端口。

Q:必须用 0.7.3 版本的客户端吗?

A:README 给出的安装命令即 pip install infinity-sdk==0.7.3,建议先用该版本以保证与示例代码和服务端兼容。

Q:示例代码里 get_database 的变量名对不上?

A:README 原文中变量名存在不一致,请统一使用 infinity.connect 返回的对象调用 get_database("default_db")。

注意事项

  • README 的服务端安装部分为空,本文仅覆盖客户端 SDK 安装与检索示例,服务端部署需另行查阅官方文档。
  • 示例代码中的 是占位符,必须替换为真实 IP 地址,不能直接运行。
  • README 未说明 Python 最低版本、系统依赖和默认数据目录,安装前请以官方文档为准。

核心亮点

  • 混合搜索能力强大:同时支持稠密、稀疏、张量向量和全文检索,能有效提升 RAG 场景下的召回准确率
  • 性能卓越:C++ 底层实现,针对高并发和低延迟优化,官方宣称比同类产品快数倍
  • 专为 LLM 设计:内置对 RAG 工作流的优化,如过滤、排序、聚合等,简化开发流程

不足之处

  • 项目相对年轻,生态和文档相比成熟数据库(如 Elasticsearch)仍有差距
  • 对非向量检索的传统数据库功能(如事务、复杂 JOIN)支持有限

适用场景

  • 构建企业级 RAG 系统,需要高准确率和低延迟的知识库检索
  • 处理大规模 AI 应用中的混合搜索需求,如电商推荐、内容检索
  • 作为 LLM 应用的长期记忆存储,支持多模态数据检索

替代项目

Milvus、Qdrant、Weaviate

项目介绍

infinity 是基础设施领域的开源项目,由 infiniflow 开发,2022 年首次发布。

在全站 13,014 个收录项目中,它的 GitHub 星标数(4,716)位列前 9%,在基础设施分类的 1,130 个项目里位列前 14%。

近 41 天,它的 GitHub 星标从 4,666 增加到 4,716,净增 50。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-22。Apache-2.0许可证,可免费使用和部署。

它主要面向的使用场景是:构建企业级RAG系统,需要高准确率和低延迟的知识库检索。同类可对比的替代方案包括 Milvus、Qdrant、Weaviate。

上一篇:llm-graph-builder

下一篇:memory-lancedb-pro

同类项目推荐

freebuff-proxy 开源

聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。

Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···

★ 213 2026-08-20
microduck 开源

用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。

A Tiny biped duck robot

★ 8684 2026-09-10
soperator 开源

用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。

Run Slurm in Kubernetes

★ 439 2026-08-10
ollama 开源

一条命令本地跑起大模型,免费、私密、不卡顿

Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···

★ 181484 2026-08-09