infinity

为LLM应用而生的极速混合搜索数据库,毫秒级检索知识

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 搜索知识 🍴 复刻 458 🐛 待处理 150 👀 关注 43
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 4762
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0许可证,可免费使用和部署。

项目预览

infinity 项目界面预览图
图片来源:项目官网

项目数据

分类搜索知识
开发团队infiniflow
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0许可证,可免费使用和部署。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言C++
技术栈/模型ai-native,approximate-nearest-neighbor-search,bm25,cpp20,cpp20-modules,embedding,full-text-search,hnsw,hybrid-search,information-retrival,multi-vector,nearest-neighbor-search,rag,search-engine,tensor-database,vector,vector-database,vector-search,vectordatabase
GitHub 星标★ 4762
上线时间2022-07-18 00:00:00
代码更新2026-11-05
仓库体积80.0 MB
本站数据更新2026-11-08
维护状态活跃
收录时间2026-08-09
浏览次数6

项目介绍

Infinity 是一个专为 LLM 应用打造的 AI 原生数据库,核心解决大模型应用中知识检索的效率和准确性问题。它支持稠密向量、稀疏向量、张量(多向量)和全文检索的混合搜索,能够在一个系统内同时处理语义搜索和关键词匹配,提供毫秒级响应。项目采用 C++ 编写,性能强劲,支持高并发和水平扩展,并提供了 Python、JavaScript 等客户端 SDK,方便开发者快速集成。其核心能力包括:多种索引类型(如 HNSW、稀疏倒排)、强大的过滤功能、以及对 RAG 工作流的优化,旨在成为 LLM 应用的数据基础设施。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 4762

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:入门 约 15 分钟 部署方式:本地安装 5 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 已运行的 Infinity 服务端(README 的 Install Infinity server 章节为空,需按官方文档以二进制方式部署)
  • Python 环境,用于安装 infinity-sdk 客户端
  • 客户端能通过 IP 与 23817 端口访问服务端

安装与启动步骤

  1. 1安装客户端 SDK

    README 明确指定 0.7.3 版本,建议按此版本安装以避免与服务端不匹配。

    pip install infinity-sdk==0.7.3
  2. 2启动 Infinity 服务端

    README 只给出指向官方文档的链接,未提供具体命令,请按该文档以二进制方式启动服务端。

  3. 3连接服务端

    把 SERVER_IP_ADDRESS 换成实际服务端地址,示例用本机 127.0.0.1,端口为 README 中的 23817。

    import infinity
    
    infinity_obj = infinity.connect(infinity.NetworkAddress("127.0.0.1", 23817))
    db_object = infinity_obj.get_database("default_db")
  4. 4建表并写入数据

    创建 my_table,包含整型 num、字符串 body 和 4 维浮点向量 vec,然后插入两条示例数据。

    table_object = db_object.create_table("my_table", {"num": {"type": "integer"}, "body": {"type": "varchar"}, "vec": {"type": "vector, 4, float"}})
    table_object.insert([{"num": 1, "body": "unnecessary and harmful", "vec": [1.0, 1.2, 0.8, 0.9]}])
    table_object.insert([{"num": 2, "body": "Office for Harmful Blooms", "vec": [4.0, 4.2, 4.3, 4.5]}])
  5. 5执行向量检索

    用 match_dense 对 vec 做稠密向量检索,距离度量 ip、返回前 2 条,并用 to_pl() 转成表格打印。

    res = table_object.output(["*"]).match_dense("vec", [3.0, 2.8, 2.7, 3.1], "float", "ip", 2).to_pl()
    print(res)

关键配置

配置项必填说明示例
SERVER_IP_ADDRESS是Infinity 服务端地址,客户端连接时使用127.0.0.1
23817是README 示例中的服务端连接端口23817
infinity-sdk是客户端 SDK 版本,README 指定为 0.7.30.7.3

如何确认成功

运行脚本后无报错,并成功打印出包含两条向量检索结果的表格,即表示连接与检索正常。

常见问题

Q:README 里 Install Infinity server 章节是空的,服务端怎么装?

A:README 未给出服务端安装命令,只提供了“Deploy Infinity using binary”文档链接,请访问该文档按官方步骤以二进制方式部署服务端。

Q:连接服务端失败怎么办?

A:检查 NetworkAddress 中的 IP 是否可访问、端口是否为 23817、服务端进程是否已启动,以及防火墙是否放行该端口。

Q:必须用 0.7.3 版本的客户端吗?

A:README 给出的安装命令即 pip install infinity-sdk==0.7.3,建议先用该版本以保证与示例代码和服务端兼容。

Q:示例代码里 get_database 的变量名对不上?

A:README 原文中变量名存在不一致,请统一使用 infinity.connect 返回的对象调用 get_database("default_db")。

注意事项

  • README 的服务端安装部分为空,本文仅覆盖客户端 SDK 安装与检索示例,服务端部署需另行查阅官方文档。
  • 示例代码中的 <SERVER_IP_ADDRESS> 是占位符,必须替换为真实 IP 地址,不能直接运行。
  • README 未说明 Python 最低版本、系统依赖和默认数据目录,安装前请以官方文档为准。

核心亮点

  • 混合搜索能力强大:同时支持稠密、稀疏、张量向量和全文检索,能有效提升 RAG 场景下的召回准确率
  • 性能卓越:C++ 底层实现,针对高并发和低延迟优化,官方宣称比同类产品快数倍
  • 专为 LLM 设计:内置对 RAG 工作流的优化,如过滤、排序、聚合等,简化开发流程

不足之处

  • 项目相对年轻,生态和文档相比成熟数据库(如 Elasticsearch)仍有差距
  • 对非向量检索的传统数据库功能(如事务、复杂 JOIN)支持有限

适用场景

  • 构建企业级 RAG 系统,需要高准确率和低延迟的知识库检索
  • 处理大规模 AI 应用中的混合搜索需求,如电商推荐、内容检索
  • 作为 LLM 应用的长期记忆存储,支持多模态数据检索

替代项目

Milvus、Qdrant、Weaviate

上一篇:llm-graph-builder

下一篇:memory-lancedb-pro

同类项目推荐

moe-l2 开源

8GB 显卡也能跑 100B+ MoE 大模型

MoE expert offload for low-VRAM GPUs — run 100B+ MoE models (DeepSeek, Qwen, Mixtra···

★ 145 2026-10-16
ChatGPT-Mirror 开源

一键部署,秒开个人 ChatGPT 镜像站

一键部署个人的 ChatGPT 镜像站

★ 1408 2026-08-09
HyperQwen 开源

24G 消费卡跑 27B 大模型,吞吐翻倍

Serve large Qwen models fast on the GPUs you actually own. Qwen3.8-27B on a single 2···

★ 2611 2026-10-28
vibebin 开源

在自己的服务器上,用容器托管代码并直接运行。

vibebin: code and host inside Incus containers on your own VPS/server.

★ 110 2026-08-09
vllm.cpp 开源

C++ 重写 vLLM,连续批处理加前缀缓存,推理吞吐更高

a community oriented 1:1, vLLM-alike (Continuous batching, paged KV) engine in C++ w···

★ 479 2026-10-14
snip 开源

给 AI 编程工具装上过滤器,Token 立省 60%

CLI proxy that reduces LLM token usage by 60-90%. Declarative YAML filters for Claud···

★ 478 2026-08-09
OpenGPT 开源

免费封装 GPT API,几行代码接入智能对话

OpenGPT 3.5/4 is a project aimed at providing practical and user-friendly APIs. The ···

★ 234 2026-08-09
tokencost 开源

输入模型和 token 数,秒估 400+ 大模型成本

Easy token price estimates for 400+ LLMs. TokenOps.

★ 2004 2026-08-09
lmnr 开源

像调试普通软件一样调试 AI 智能体,全链路追踪+评估。

Laminar - open-source observability platform purpose-built for AI agents. YC S24.

★ 3478 2026-08-09