mlx-embeddings

在 Mac 上本地跑视觉/文本嵌入模型,轻松搞定 RAG 和语义搜索

MLX-Embeddings 是一个专为 Mac 用户设计的本地嵌入模型运行工具,基于 Apple 的 MLX 框架,支持在本地运行视觉和语言嵌入模型。它解决了在 Mac 上高效运行嵌入模型的需求,无需依赖云服务或外部 API,即可完成文本和图像的向量化处理。核心能力包括:支持多种主流嵌入模型(如 BERT、CLIP 等),提供统一的 API 接口,方便集成到 RAG(检索增强生成)或语义搜索系统中。项目采用 Python 编写,技术栈聚焦于嵌入、检索和 LLM 应用,适合开发者快速构建本地化的语义检索、推荐系统或知识库问答应用。其优势在于利用 MLX 框架优化了 Apple Silicon 芯片的性能,实现低延迟、高吞吐的嵌入计算,同时保持数据隐私和离线可用性。

开源 free 对话助手
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 445
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类对话助手
开发团队Blaizzy
所属国家
官网地址
定价模式free
价格说明开源项目,本地部署,完全免费。
访问状态
是否开源是
开源协议NOASSERTION
主要语言Python
技术栈/模型chatbot,embeddings,llms,rag,retrieval-augmented-generation
GitHub 星标★ 445
30天Star增速
HF 下载量
上线时间2024-07-16 00:00:00
最近更新2026-09-23 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数1

使用教程

核心亮点

  • 基于 MLX 框架,针对 Apple Silicon 深度优化,推理速度快
  • 同时支持视觉和语言嵌入模型,覆盖多模态场景
  • 本地运行,数据不出设备,隐私安全且无需网络

不足之处

  • 仅支持 macOS 平台,不适用于 Windows/Linux 用户
  • 项目处于早期阶段,文档和社区生态待观察

适用场景

  • 在 Mac 上开发本地 RAG 应用,快速生成文档嵌入
  • 构建离线语义搜索或推荐系统,保护数据隐私
  • 多模态场景下,对图片和文本进行统一向量化

替代项目

sentence-transformers、text-embeddings-inference、fastembed

项目介绍

mlx-embeddings 是搜索知识领域的开源项目,由 Blaizzy 开发,2024 年首次发布。

它收录于搜索知识分类,该分类目前共有 585 个项目,GitHub 星标数为 445。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-23。本地部署,完全免费。

它主要面向的使用场景是:在Mac上开发本地RAG应用,快速生成文档嵌入。同类可对比的替代方案包括 sentence-transformers、text-embeddings-inference、fastembed。

上一篇:rag-chatbot

下一篇:ThinkRAG

同类项目推荐

firecrawl 开源

网页抓取像喝水一样简单,开发者省下整周加班

The web data API to search, scrape, and interact at scale.

★ 183325 2026-08-09
contoso-chat 开源

一键跑通 Azure RAG 应用,从代码到评估部署全流程

This sample has the full End2End process of creating RAG application with Prompty an···

★ 766 2026-08-09
graphify 开源

整个代码库画成一张图,找问题一眼定位

Turn any codebase, with its docs, SQL schemas, configs, and PDFs, into a queryable k···

★ 120493 2026-08-09
ragflow 开源

让大模型用上你的私有知识,搭建可靠的企业级RAG应用

RAGFlow is a leading open-source Retrieval-Augmented Generation (RAG) engine that fu···

★ 91170 2026-08-09