本地生成向量嵌入，让 Rust 应用秒变语义搜索高手
fastembed-rs 是一个用 Rust 实现的向量嵌入与重排序库，旨在本地生成高质量的文本嵌入向量，并支持本地重排序。它解决了在 Rust 生态中缺乏高性能、易用的嵌入生成工具的问题，让开发者无需依赖外部 API 即可在本地完成语义搜索、推荐系统等场景的向量化处理。核心能力包括：支持多种主流嵌入模型（如 BGE、E5 等），提供简洁的 API 接口，并针对 CPU 和 GPU 进行了性能优化。作为早期项目，它已获得近千星标，展现了社区对其价值的认可。
1准备 Rust 项目
README 说明安装命令需在「你的项目目录」中运行，请先进入已有的 Rust 项目根目录（含 Cargo.toml）。
2添加 fastembed
在项目目录执行该命令，cargo 会自动把最新 5.x 版本写入 Cargo.toml 的依赖区。
cargo add fastembed3或手动改配置
不想用 cargo add 时，可手动在 Cargo.toml 中加入这一行依赖，版本写 5。
4选择嵌入模型
README 列出支持的模型，默认是 BAAI/bge-small-en-v1.5；中文场景可选 bge-small-zh-v1.5 等。
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
fastembed | 是 | Cargo.toml 中声明 fastembed 依赖并指定大版本 5 | fastembed = "5" |
执行 cargo add fastembed 后，Cargo.toml 出现 fastembed 依赖（版本 5.x）即表示依赖安装成功。
Q：一定要用 Rust 吗？有其他语言版本吗？
A：README 提到非 Rust 用户可用 Python 的 fastembed、Go 的 fastembed-go、JavaScript 的 fastembed-js，功能对应但仓库不同。
Q：需要异步运行时 Tokio 吗？
A：不需要。README 说明该库支持同步调用（synchronous usage），不依赖 Tokio。
Q：默认用哪个模型？
A：默认模型为 BAAI/bge-small-en-v1.5；README 还列出 bge-base/large、bge-m3、bge-small-zh、all-MiniLM 等可选模型。
Q：底层推理和分词分别用什么？
A：README 说明推理使用 @pykeio/ort 做 ONNX 加速，分词使用 @huggingface/tokenizers 做快速编码。
text-embeddings-inference、sentence-transformers、fastembed (Python)
fastembed-rs 是基础设施领域的开源项目，由 anush008 开发，2023 年首次发布。
在全站 13,014 个收录项目中，它的 GitHub 星标数（1,018）位列前 30%，在基础设施分类中处于中上游。
近 42 天，它的 GitHub 星标从 986 增加到 1,018，净增 32。
项目目前处于活跃维护状态，最近一次代码更新于 2026-09-23。开源库，本地部署，完全免费。
它主要面向的使用场景是：本地语义搜索应用开发。同类可对比的替代方案包括 text-embeddings-inference、sentence-transformers、fastembed (Python)。
freebuff-proxy
开源
聚合多账号，一键接入 OpenAI 兼容 API，轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭，快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm，简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型，免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···