FlashRank

让搜索排序快如闪电，CPU 上也能跑大模型重排序。

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署搜索知识 🍴 复刻 75 🐛 待处理 12 👀 关注 6

GitHub ↗

GitHub 星标 ★ 1014

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源项目，Apache-2.0许可证，完全免费，可自行部署使用。

项目预览

项目数据

分类搜索知识

开发团队PrithivirajDamodaran

GitHubhttps://github.com/PrithivirajDamodaran/FlashRank

定价模式🏷️完全免费

价格说明开源项目，Apache-2.0许可证，完全免费，可自行部署使用。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型cross-encoder,full-text-search,hybrid-search,lexical-search,rag,ranking,reranking,retrieval-augmented-generation,semantic-search,vector-database,vector-search

GitHub 星标★ 1014

上线时间2023-12-04 00:00:00

代码更新2026-07-11

仓库体积2.6 MB

本站数据更新2026-11-08

维护状态低维护

收录时间2026-08-09

浏览次数2

项目介绍

FlashRank 是一个轻量级、超快的重排序库，专为搜索和检索管道设计。它解决了在生产环境中部署大型重排序模型时面临的延迟和资源消耗问题，通过优化推理过程，实现了比传统交叉编码器快数倍的速度，同时保持高精度。核心能力包括支持基于 LLM 的 Listwise 和 Pairwise 重排序方法，以及多种交叉编码器模型，并提供简洁的 API 集成。它基于 ONNX Runtime 和 CTranslate2 等高效推理引擎，无需 GPU 即可在 CPU 上快速运行，适合资源受限的环境。项目由 Prithivi Da 创建，积极欢迎社区贡献，目前处于成长阶段。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1014

技术标签

full-text-search hybrid-search rag reranking retrieval-augmented-generation

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：入门约 10 分钟部署方式：库/依赖 4 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

Python 运行环境（README 未指定版本）
无需 GPU，可在 CPU 上运行
无需安装 Torch 或 Transformers
AWS Lambda 等无服务器环境需准备可写目录用于存放模型

安装与启动步骤

1安装 FlashRank

README 的 Installation 章节内容为空，未给出安装命令；此处 install 命令由示例中的 flashrank 包名推断，请以官方仓库为准。
```
pip install flashrank
```
2验证导入

确认库已正确安装，能导入 Ranker 与 RerankRequest 两个核心类。
```
python -c "from flashrank import Ranker, RerankRequest"
```
3初始化重排序器

README 示例使用默认的交叉编码器模型，并按需指定缓存目录；模型名与路径均为 README 中的示例值。
```
from flashrank import Ranker, RerankRequest

ranker = Ranker(model_name="ms-marco-MiniLM-L-12-v2", cache_dir="/opt")
```
4无服务器环境配置

AWS Lambda 等环境中整个 VM 为只读，需在 Dockerfile 里自建目录并通过 cache_dir 传入，同时可作为热启动间的缓存。
```
ranker = Ranker(model_name="ms-marco-MiniLM-L-12-v2", cache_dir="/opt")
```