llm-applications

照着学，快速搭出能上生产的 RAG 应用

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署搜索知识 🍴 复刻 258 🐛 待处理 15 👀 关注 16

GitHub ↗

GitHub 星标 ★ 1864

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源免费

项目预览

llm-applications 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类搜索知识

开发团队ray-project

GitHubhttps://github.com/ray-project/llm-applications

定价模式🏷️完全免费

价格说明开源免费

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议CC-BY-4.0

主要语言Jupyter Notebook

技术栈/模型anyscale,fine-tuning,llama2,llms,machine-learning,openai,ray,serving

GitHub 星标★ 1864

上线时间2023-08-16 00:00:00

代码更新2026-08-15

仓库体积30.4 MB

本站数据更新2026-11-15

维护状态低维护

收录时间2026-08-17

浏览次数10

项目介绍

这是一个面向生产环境的 RAG（检索增强生成）LLM 应用构建指南，基于 Jupyter Notebook 形式提供系统化教程。项目由 Anyscale 团队维护，核心解决开发者从原型到生产部署过程中遇到的检索质量、上下文管理、模型微调与推理性能等关键问题。内容覆盖 LlamaIndex、LangChain 等主流框架的使用，并深入讲解向量数据库选型、Embedding 优化、重排序策略、以及基于 Ray 的分布式推理和模型服务方案。通过可运行的代码示例，帮助开发者理解如何将 OpenAI、Llama2 等模型与业务数据结合，构建具备可靠知识库问答能力的应用。项目还涉及微调技术如何与 RAG 互补，以及生产环境中的监控、评估和迭代方法。整体上是一个兼具理论深度和工程实践的资源库，适合希望系统化提升 RAG 应用开发能力的工程师。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-17 · 当前星标 ★ 1864

技术标签

fine-tuning llama2 llms machine-learning openai

使用教程

难度：入门约 10 分钟部署方式：本地安装 4 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

OpenAI 账号与 API 凭证（用于访问 gpt-3.5-turbo、gpt-4 等模型）
Anyscale Endpoints 账号与凭证（用于访问 Llama-2-70b 等开源模型）
可运行 Jupyter Notebook 的环境（README 提供 Local 计算选项，但节选未展开细节）
能访问 GitHub 与上述两个模型服务平台的网络

安装与启动步骤

1注册 OpenAI 账号

前往 OpenAI 平台注册账号并创建凭证，用于调用 ChatGPT 系列模型（gpt-3.5-turbo、gpt-4）。
2注册 Anyscale 账号

前往 Anyscale Endpoints 注册账号并创建凭证，用于调用 Llama-2-70b 等开源大模型。
3获取项目代码

从 README 给出的 GitHub 仓库地址获取项目代码，也可直接下载仓库压缩包。
```
git clone https://github.com/ray-project/llm-applications.git
```
4打开交互式 Notebook

README 明确给出交互式 notebook 路径 notebooks/rag.ipynb，用它跟着教程逐步运行。