项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 4762
使用教程
⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。
⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。
环境要求
- 已运行的 Infinity 服务端(README 的 Install Infinity server 章节为空,需按官方文档以二进制方式部署)
- Python 环境,用于安装 infinity-sdk 客户端
- 客户端能通过 IP 与 23817 端口访问服务端
安装与启动步骤
-
1安装客户端 SDK
README 明确指定 0.7.3 版本,建议按此版本安装以避免与服务端不匹配。
pip install infinity-sdk==0.7.3 -
2启动 Infinity 服务端
README 只给出指向官方文档的链接,未提供具体命令,请按该文档以二进制方式启动服务端。
-
3连接服务端
把 SERVER_IP_ADDRESS 换成实际服务端地址,示例用本机 127.0.0.1,端口为 README 中的 23817。
import infinity infinity_obj = infinity.connect(infinity.NetworkAddress("127.0.0.1", 23817)) db_object = infinity_obj.get_database("default_db") -
4建表并写入数据
创建 my_table,包含整型 num、字符串 body 和 4 维浮点向量 vec,然后插入两条示例数据。
table_object = db_object.create_table("my_table", {"num": {"type": "integer"}, "body": {"type": "varchar"}, "vec": {"type": "vector, 4, float"}}) table_object.insert([{"num": 1, "body": "unnecessary and harmful", "vec": [1.0, 1.2, 0.8, 0.9]}]) table_object.insert([{"num": 2, "body": "Office for Harmful Blooms", "vec": [4.0, 4.2, 4.3, 4.5]}]) -
5执行向量检索
用 match_dense 对 vec 做稠密向量检索,距离度量 ip、返回前 2 条,并用 to_pl() 转成表格打印。
res = table_object.output(["*"]).match_dense("vec", [3.0, 2.8, 2.7, 3.1], "float", "ip", 2).to_pl() print(res)
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
SERVER_IP_ADDRESS | 是 | Infinity 服务端地址,客户端连接时使用 | 127.0.0.1 |
23817 | 是 | README 示例中的服务端连接端口 | 23817 |
infinity-sdk | 是 | 客户端 SDK 版本,README 指定为 0.7.3 | 0.7.3 |
如何确认成功
运行脚本后无报错,并成功打印出包含两条向量检索结果的表格,即表示连接与检索正常。
常见问题
Q:README 里 Install Infinity server 章节是空的,服务端怎么装?
A:README 未给出服务端安装命令,只提供了“Deploy Infinity using binary”文档链接,请访问该文档按官方步骤以二进制方式部署服务端。
Q:连接服务端失败怎么办?
A:检查 NetworkAddress 中的 IP 是否可访问、端口是否为 23817、服务端进程是否已启动,以及防火墙是否放行该端口。
Q:必须用 0.7.3 版本的客户端吗?
A:README 给出的安装命令即 pip install infinity-sdk==0.7.3,建议先用该版本以保证与示例代码和服务端兼容。
Q:示例代码里 get_database 的变量名对不上?
A:README 原文中变量名存在不一致,请统一使用 infinity.connect 返回的对象调用 get_database("default_db")。
注意事项
- README 的服务端安装部分为空,本文仅覆盖客户端 SDK 安装与检索示例,服务端部署需另行查阅官方文档。
- 示例代码中的 <SERVER_IP_ADDRESS> 是占位符,必须替换为真实 IP 地址,不能直接运行。
- README 未说明 Python 最低版本、系统依赖和默认数据目录,安装前请以官方文档为准。
核心亮点
- 混合搜索能力强大:同时支持稠密、稀疏、张量向量和全文检索,能有效提升 RAG 场景下的召回准确率
- 性能卓越:C++ 底层实现,针对高并发和低延迟优化,官方宣称比同类产品快数倍
- 专为 LLM 设计:内置对 RAG 工作流的优化,如过滤、排序、聚合等,简化开发流程
不足之处
- 项目相对年轻,生态和文档相比成熟数据库(如 Elasticsearch)仍有差距
- 对非向量检索的传统数据库功能(如事务、复杂 JOIN)支持有限
适用场景
- 构建企业级 RAG 系统,需要高准确率和低延迟的知识库检索
- 处理大规模 AI 应用中的混合搜索需求,如电商推荐、内容检索
- 作为 LLM 应用的长期记忆存储,支持多模态数据检索
替代项目
Milvus、Qdrant、Weaviate
同类项目推荐
moe-l2
开源
8GB 显卡也能跑 100B+ MoE 大模型
MoE expert offload for low-VRAM GPUs — run 100B+ MoE models (DeepSeek, Qwen, Mixtra···
ChatGPT-Mirror
开源
一键部署,秒开个人 ChatGPT 镜像站
一键部署个人的 ChatGPT 镜像站
HyperQwen
开源
24G 消费卡跑 27B 大模型,吞吐翻倍
Serve large Qwen models fast on the GPUs you actually own. Qwen3.8-27B on a single 2···
vibebin
开源
在自己的服务器上,用容器托管代码并直接运行。
vibebin: code and host inside Incus containers on your own VPS/server.
vllm.cpp
开源
C++ 重写 vLLM,连续批处理加前缀缓存,推理吞吐更高
a community oriented 1:1, vLLM-alike (Continuous batching, paged KV) engine in C++ w···
snip
开源
给 AI 编程工具装上过滤器,Token 立省 60%
CLI proxy that reduces LLM token usage by 60-90%. Declarative YAML filters for Claud···
OpenGPT
开源
免费封装 GPT API,几行代码接入智能对话
OpenGPT 3.5/4 is a project aimed at providing practical and user-friendly APIs. The ···
tokencost
开源
输入模型和 token 数,秒估 400+ 大模型成本
Easy token price estimates for 400+ LLMs. TokenOps.
lmnr
开源
像调试普通软件一样调试 AI 智能体,全链路追踪+评估。
Laminar - open-source observability platform purpose-built for AI agents. YC S24.
