EmbedAnything

用 Rust 打造极速、安全的嵌入与索引流水线,让 AI 应用更快更稳

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 搜索知识 🍴 复刻 140 🐛 待处理 20 👀 关注 12
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 1323
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0 许可证,可免费使用和部署。

项目预览

EmbedAnything 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类搜索知识
开发团队StarlightSearch
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0 许可证,可免费使用和部署。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Rust
技术栈/模型ai,cloud,generative-ai,hacktoberfest,high-performance,indexing,inference,information-retrieval,large-language-models,local,machine-learning,onnxruntime,pipeline,production-ready,python,rag,rust,search,server,vector-database
GitHub 星标★ 1323
上线时间2024-03-31 00:00:00
代码更新2026-10-26
仓库体积40.4 MB
本站数据更新2026-11-08
维护状态较活跃
收录时间2026-08-09
浏览次数4

项目介绍

EmbedAnything 是一个基于 Rust 构建的高性能、模块化、内存安全的向量嵌入与索引引擎,专为生产环境设计。它解决了传统 Python 嵌入库在性能和资源占用上的瓶颈,提供从数据摄取、向量化到索引的完整流水线。核心能力包括:支持多种嵌入模型(如 OpenAI、BERT 等)与本地模型,支持文本、图像、音频等多模态数据;内置高效的向量索引(如 HNSW),支持快速相似度搜索;通过 Rust 实现内存安全与高并发,显著提升吞吐量并降低延迟。其模块化设计允许用户灵活组合不同组件,满足定制化需求。项目处于成长阶段,API 可能变动,但已具备生产级潜质,适合对性能要求苛刻的 AI 应用场景。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1323

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:入门 约 10 分钟 部署方式:库/依赖 4 步

环境要求

  • Python 环境与 pip(用于安装 embed-anything)
  • GPU 加速或使用 ColPali 等特殊模型时,需安装 embed-anything-gpu 并具备对应 CUDA 环境
  • Windows + CUDA 用户需能访问 NVIDIA GPU Computing Toolkit 的 bin 目录

安装与启动步骤

  1. 1安装核心库

    README 给出的标准安装方式,安装 EmbedAnything 的 Python 包,包含数据摄取、推理与索引的基础能力。

    pip install embed-anything
  2. 2按需安装 GPU 版

    需要在 GPU 上运行或使用 ColPali 等特殊模型时,改装 GPU 版本包,普通 CPU 用法可跳过此步。

    pip install embed-anything-gpu
  3. 3Windows 修复 CUDA 报错

    Windows 上运行时若出现 cuda error,在 Python 中注册 CUDA v12.6 的 bin 目录后再运行程序。路径需按本机实际安装版本调整。

    import os
    os.add_dll_directory("C:/Program Files/NVIDIA GPU Computing Toolkit/CUDA/v12.6/bin")
  4. 4调用嵌入接口

    按 README 示例导入 EmbeddingModel、WhichModel、TextEmbedConfig,并调用 embed_file 对文件做嵌入;model 与 config 的构造请参考官方 Python 文档。

    import embed_anything
    from embed_anything import EmbeddingModel, WhichModel, TextEmbedConfig
    
    data = embed_anything.embed_file(
        "test_files/document.pdf",
        embedder=model,
        config=config
    )

关键配置

配置项必填说明示例
TextEmbedConfig否自定义嵌入行为的配置对象,作为 embed_file 的 config 参数传入TextEmbedConfig(...)

如何确认成功

执行 python -c "import embed_anything" 无报错,且 embed_file 能正常返回嵌入结果即说明安装可用。

常见问题

Q:Windows 上运行报 CUDA 错误怎么办?

A:按 README 说明在代码中执行 os.add_dll_directory("C:/Program Files/NVIDIA GPU Computing Toolkit/CUDA/v12.6/bin"),把该行放在调用嵌入接口之前,并按本机 CUDA 版本修改路径。

Q:什么时候需要装 embed-anything-gpu?

A:需要 GPU 加速,或使用 ColPali 这类特殊模型时,安装 embed-anything-gpu 而非基础包;普通使用 pip install embed-anything 即可。

Q:如何自定义嵌入配置?

A:导入 TextEmbedConfig 构造配置对象,并作为 config 参数传给 embed_file;README 未给出各字段细节,请查阅官方 Python 文档。

Q:支持哪些模型?

A:README 提到可通过 EmbeddingModel、WhichModel 以及 ONNXModel 使用预置模型(含 ONNX 加速推理),也支持自定义模型路径,具体用法见官方文档。

注意事项

  • README 未提供 git clone 或源码编译说明,请勿从源码构建,优先使用 pip 安装
  • 项目处于成长阶段,API 可能变动,升级前建议锁定版本并查看官方 Python/Rust 文档
  • README 未给出向量索引与相似度搜索的具体安装命令,相关用法以官网文档与示例仓库为准
  • 示例代码中的 model 与 config 需自行构造,README 只展示了 embed_file 的调用形式

核心亮点

  • 基于 Rust 实现,内存安全且性能极高,远超 Python 同类库
  • 支持多模态数据(文本、图像、音频)和多种嵌入模型,灵活性强
  • 内置高效索引(如 HNSW),开箱即用的相似度搜索能力

不足之处

  • 项目较新,API 可能不稳定,需关注版本迭代
  • 文档和社区生态尚在建设中,学习资源有限

适用场景

  • 需要高吞吐量、低延迟的实时向量检索系统
  • 在资源受限环境中部署嵌入服务(如边缘设备)
  • 构建多模态 AI 应用,需统一处理文本、图像和音频嵌入

替代项目

Qdrant、Milvus、FAISS

上一篇:trench

下一篇:neo4j-graphrag-python

同类项目推荐

Misceo 开源

让 AI 调用自动选便宜模型,质量不翻车,成本一目了然

Local Anthropic-compatible AI gateway with cheap-first routing, quality gates, safe ···

★ 849 2026-08-09
daytona 开源

让 AI 代码在安全沙箱里跑起来,不怕搞崩系统

Daytona is a Secure and Elastic Infrastructure for Running AI-Generated Code

★ 71353 2026-08-09
metaflow 开源

Netflix 同款流水线玩法,从实验到上线一路顺畅

Build, Manage and Deploy AI/ML Systems

★ 10341 2026-08-09
NeumAI 开源

一键搭建大规模向量数据管道,让 RAG 应用数据实时同步

Neum AI is a best-in-class framework to manage the creation and synchronization of v···

★ 868 2026-08-09
awesome-ai-api-proxy 开源

一张清单,搞定所有AI模型中转站选型

One key. Every model. Anywhere. — A curated map of AI API relay stations & LLM gate···

★ 104 2026-08-09
vllm-omni 开源

一套框架通吃文本图像视频,换模型不用再重搭环境。

A framework for efficient model inference with omni-modality models

★ 7608 2026-08-09
llm-d 开源

在 Kubernetes 上榨干 GPU,让 LLM 推理飞起来

State of the art inference performance with modern accelerators on Kubernetes

★ 5169 2026-08-09
arcjet-js 开源

给 AI 应用装上安全气囊,防注入、防越权、防泄露

Runtime security for AI apps and agents: prompt injection detection, tool-call autho···

★ 698 2026-08-09
anyquery 开源

用 SQL 一把梭,轻松查遍 60+ 工具数据,还能喂给 AI

One SQL interface for 60+ tools (e.g., GitHub, Notion, Airtable). Plug into any LLM ···

★ 1791 2026-08-09