llm-applications

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

• OpenAI 账号与 API 凭证（用于访问 gpt-3.5-turbo、gpt-4 等模型）
• Anyscale Endpoints 账号与凭证（用于访问 Llama-2-70b 等开源模型）
• 可运行 Jupyter Notebook 的环境（README 提供 Local 计算选项，但节选未展开细节）
• 能访问 GitHub 与上述两个模型服务平台的网络

安装与启动步骤

1. 1注册 OpenAI 账号

   前往 OpenAI 平台注册账号并创建凭证，用于调用 ChatGPT 系列模型（gpt-3.5-turbo、gpt-4）。

2. 2注册 Anyscale 账号

   前往 Anyscale Endpoints 注册账号并创建凭证，用于调用 Llama-2-70b 等开源大模型。

3. 3获取项目代码

   从 README 给出的 GitHub 仓库地址获取项目代码，也可直接下载仓库压缩包。

   git clone https://github.com/ray-project/llm-applications.git

   复制

4. 4打开交互式 Notebook

   README 明确给出交互式 notebook 路径 notebooks/rag.ipynb，用它跟着教程逐步运行。

如何确认成功

能打开 notebooks/rag.ipynb 并按教程成功调用 ChatGPT 与 Llama-2-70b 模型即算准备就绪。

常见问题

注意事项

• README 节选未包含完整安装命令与依赖清单，本教程仅依据其中明确信息整理，请以仓库最新说明为准。
• 项目内容以 Jupyter Notebook 形式提供，包含加载、切分、向量化、索引、服务等环节的扩展说明。
• README 附有 Ray 官方文档与 Anyscale Endpoints 链接，遇到规模化和部署问题可查阅这些资料。