mlx-embeddings

在 Mac 上本地跑视觉/文本嵌入模型，轻松搞定 RAG 和语义搜索

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署对话助手 🍴 复刻 63 🐛 待处理 35 👀 关注 3

GitHub ↗

GitHub 星标 ★ 452

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源项目，本地部署，完全免费。

项目预览

mlx-embeddings 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类对话助手

开发团队Blaizzy

GitHubhttps://github.com/Blaizzy/mlx-embeddings

定价模式🏷️完全免费

价格说明开源项目，本地部署，完全免费。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议NOASSERTION

主要语言Python

技术栈/模型chatbot,embeddings,llms,rag,retrieval-augmented-generation

GitHub 星标★ 452

上线时间2024-07-16 00:00:00

代码更新2026-05-13

仓库体积84.3 MB

本站数据更新2026-11-08

维护状态低维护

收录时间2026-08-09

浏览次数3

项目介绍

MLX-Embeddings 是一个专为 Mac 用户设计的本地嵌入模型运行工具，基于 Apple 的 MLX 框架，支持在本地运行视觉和语言嵌入模型。它解决了在 Mac 上高效运行嵌入模型的需求，无需依赖云服务或外部 API，即可完成文本和图像的向量化处理。核心能力包括：支持多种主流嵌入模型（如 BERT、CLIP 等），提供统一的 API 接口，方便集成到 RAG（检索增强生成）或语义搜索系统中。项目采用 Python 编写，技术栈聚焦于嵌入、检索和 LLM 应用，适合开发者快速构建本地化的语义检索、推荐系统或知识库问答应用。其优势在于利用 MLX 框架优化了 Apple Silicon 芯片的性能，实现低延迟、高吞吐的嵌入计算，同时保持数据隐私和离线可用性。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 452

技术标签

chatbot embeddings llms rag retrieval-augmented-generation

使用教程

难度：进阶约 20 分钟部署方式：本地安装 4 步

环境要求

Apple Silicon Mac
Python 3.9+

安装与启动步骤

1确认是 Apple Silicon

它基于 MLX，只有苹果芯片的机器能跑。
```
uname -m
```
2装包

一条命令装完，依赖会带上 MLX 本身。
```
pip install mlx-embeddings
```
3转换或下载模型

支持把 HuggingFace 上的嵌入模型转成 MLX 格式。
```
python -m mlx_embeddings.convert --model <模型名>
```
4算一组向量看维度

先用两个句子算相似度，确认输出维度与归一化方式。