fastRAG

让RAG更快更省，企业级检索生成开箱即用

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 166 🐛 待处理 4 ⚠️ 作者已归档（停止维护）

GitHub ↗

GitHub 星标 ★ 1785

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源框架，Apache-2.0 许可证，完全免费，可自行部署使用。

项目预览

项目数据

分类开源模型

开发团队IntelLabs

GitHubhttps://github.com/IntelLabs/fastRAG

定价模式🏷️完全免费

价格说明开源框架，Apache-2.0 许可证，完全免费，可自行部署使用。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型benchmark,colbert,diffusion,generative-ai,information-retrieval,knowledge-graph,llm,multi-modal,nlp,question-answering,semantic-search,sentence-transformers,summarization,transformers

GitHub 星标★ 1785

上线时间2023-01-23 00:00:00

代码更新2026-01-12

仓库体积20.9 MB

本站数据更新2026-11-09

维护状态低维护

收录时间2026-08-09

浏览次数3

项目介绍

fastRAG是一个专注于高效检索增强生成（RAG）的开源框架，旨在解决企业落地RAG时面临的性能瓶颈和部署复杂性问题。它基于Haystack构建，但针对生产环境进行了深度优化，核心能力包括：支持多种向量数据库和检索器（如Elasticsearch、FAISS）、提供缓存机制以减少重复计算、集成模型量化与蒸馏技术以加速推理、并支持流式输出和异步处理。fastRAG特别强调在保持生成质量的同时，通过系统级优化（如索引压缩、查询路由）显著降低延迟和资源消耗，适合需要大规模知识库问答、实时文档摘要和私有化部署的场景。其模块化设计允许开发者灵活组合检索与生成组件，快速搭建定制化RAG流水线。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1785

技术标签

benchmark diffusion generative-ai information-retrieval knowledge-graph

使用教程

难度：进阶约 10 分钟部署方式：库/依赖 6 步

环境要求

Python 3.8 或更高版本
PyTorch 2.0 或更高版本
建议在新建的虚拟环境中安装
兼容 Haystack v2+（README 特别提示）

安装与启动步骤

1检查 Python 版本

确认本机 Python 为 3.8 或更高，否则需先升级 Python 再继续安装。
```
python --version
```
2创建虚拟环境

README 建议在新创建的虚拟环境中安装，避免与系统已有依赖冲突。
```
python -m venv .venv
```
3激活虚拟环境

Linux/macOS 用 source 激活；Windows 请改用 .venv\Scripts\activate。
```
source .venv/bin/activate
```
4准备 PyTorch

README 要求 PyTorch 2.0 或更高版本，请先按 PyTorch 官方指引安装完成再继续。
5安装 fastRAG

README 给出的官方安装方式：直接用 pip 从 PyPI 安装 fastrag 包。
```
pip install fastrag
```
6验证安装

查看已安装包信息，能显示 fastrag 的名称与版本号即表示安装成功。
```
pip show fastrag
```