rank_llm

用大模型给搜索结果重排序,让最相关的文档排到最前面

开源 🏷️定价信息待确认 ⚠️ 链接可跳转,访问体验不确定 搜索知识 🍴 复刻 109 🐛 待处理 45 👀 关注 8
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 673
维护状态 活跃
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

rank_llm 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类搜索知识
开发团队castorini
官网地址http://rankllm.ai
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态⚠️ 链接可跳转,访问体验不确定
是否开源是
开源协议Apache-2.0
主要语言Python
GitHub 星标★ 673
上线时间2023-08-07 00:00:00
代码更新2026-10-30
仓库体积20.6 MB
本站数据更新2026-11-04
维护状态活跃
收录时间2026-09-16
浏览次数1

项目介绍

RankLLM 是一个 Python 工具包,用于可复现的信息检索研究,核心聚焦于基于大语言模型的列表式重排序(listwise reranking)。它解决的是传统检索系统返回的候选文档排序不够精准的问题:通过调用 LLM 对候选列表整体打分重排,显著提升排序质量。项目内置多种重排序模型与提示策略,支持 RankGPT、RankVicuna、RankZephyr 等主流列表式方法,并提供统一的评测流程与标准数据集接口,方便研究者对比不同重排器效果。同时支持本地模型与 API 调用,兼顾实验灵活性与可复现性,适合作为检索增强、RAG 流水线中的精排组件。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 673

使用教程

难度:进阶 约 50 分钟 部署方式:本地安装 5 步

环境要求

  • CUDA GPU
  • Python 3.12
  • 检索数据集

安装与启动步骤

  1. 1克隆仓库

    检索重排工具集,覆盖逐点、成对、列表三种范式。

    git clone https://github.com/castorini/rank_llm.git
  2. 2装 uv 并准备 Python

    用 uv 管理更快。

    uv python install 3.12
  3. 3装包

    pip 或 uv 均可,注意 extras。

    uv pip install rank-llm
  4. 4跑一个模型的重排

    选中小模型先验证流程,再接大模型。

    python src/rank_llm/scripts/run_rank_llm.py --model_path=castorini/monoelectra-base --top_k_candidates=1000 --dataset=dl19
  5. 5对比不同范式

    列表式通常更强但更慢,按延迟预算选。

如何确认成功

能输出重排后的排序与指标

注意事项

  • 候选数量直接决定延迟,top_k 别盲目调大。
  • 部分模型要求特定 transformers 版本。

核心亮点

  • 统一封装多种列表式重排器(RankGPT/RankZephyr 等),便于横向对比实验
  • 提供标准化的可复现评测流程与数据集接口,降低研究复现成本
  • 同时支持本地模型与 API 调用,适配不同算力与预算条件

不足之处

  • 列表式重排依赖 LLM 推理,延迟和成本明显高于传统交叉编码器
  • 项目星标数较少,生态与文档完善度仍在早期阶段

适用场景

  • RAG 检索流水线中对召回文档做精排
  • 信息检索论文中复现和对比列表式重排方法
  • 搜索系统里用 LLM 提升 Top-K 结果相关性

替代项目

rerankers、RankGPT、BEIR

上一篇:llm-architecture-gallery

下一篇:search2ai

同类项目推荐

VSA 开源

让AI看懂图片后,自动搜索并回答多模态问题

Vision Search Assistant: Empower Vision-Language Models as Multimodal Search Engines

★ 129 2026-08-09
awesome-decision-models 开源

一页找齐决策模型 API、运行时与论文

A curated list of decision models (System One / typed decision models): hosted APIs,···

★ 681 2026-10-04
rag_api 开源

基于 ID 的 RAG 服务,用 FastAPI + pgvector 快速搭建生产级检索增强生成 API。

ID-based RAG FastAPI: Integration with Langchain and PostgreSQL/pgvector

★ 920 2026-08-09
rag-ecosystem 开源

手把手拆解RAG每个零件,看完就能自己搭

Understand and code every important component of RAG architecture

★ 248 2026-08-09
Vane 开源

输入问题,直接获取带引用的精准答案。

Vane is an AI-powered answering engine.

★ 37997 2026-08-09
IncarnaMind 开源

拖入多个 PDF/TXT,立即用大模型对话提问,答案带出处。

From messy files to a checked report. A free, open-source desktop app for macOS, Win···

★ 850 2026-08-09
ragflow-plus 开源

Ragflow 精简版,快速搭私有知识库问答

Ragflow-Plus 是 Ragflow 的二次开发版本,使其更为简洁实用

★ 1465 2026-10-12
documentation-helper 开源

用 RAG 快速搭建文档问答助手,让文档秒变智能客服

Reference implementation of a RAG-based documentation helper using LangChain, Pineco···

★ 364 2026-08-09