langserve

环境要求

• Python 环境与 pip（用于安装 langserve）
• LangChain 构建的可运行对象（chain/agent/retriever 等）
• 模型服务密钥，例如 OPENAI_API_KEY
• 项目依赖管理使用 poetry（README 说明）
• 云部署需对应 CLI：AWS Copilot CLI / Azure CLI / gcloud，以及 Dockerfile

安装与启动步骤

1. 1安装 LangServe

   同时需要客户端和服务端时安装 all 全部依赖，避免后续缺包。

   pip install "langserve[all]"

   复制

2. 2按需分开安装

   只写客户端代码装 client，只做服务端装 server；二者与 all 互斥选择其一即可。

   pip install "langserve[client]"
   pip install "langserve[server]"

   复制

3. 3配置模型密钥

   LangServe 本身不含模型，链里用到的模型密钥需通过环境变量注入。

   export OPENAI_API_KEY="sk-xxxxxxxx"

   复制

4. 4定义可运行路由

   打开 server.py，用 add_routes 把 LangChain 对象挂到指定 path 上，README 明确要求在此处编辑。

   add_routes(app, RunnableLambda(func), path="/foo")

   复制

5. 5部署到 AWS

   使用 AWS Copilot CLI 指定 Load Balanced Web Service 类型和 Dockerfile 完成部署。

   copilot init --app my-app --name my-service --type 'Load Balanced Web Service' --dockerfile './Dockerfile' --deploy

   复制

6. 6部署到 Azure

   通过 Azure Container Apps 部署，README 指定目标端口为 8001，并把密钥作为环境变量传入。

   az containerapp up --name my-container-app --source . --resource-group my-resource-group --environment my-environment --ingress external --target-port 8001 --env-vars=OPENAI_API_KEY=sk-xxxxxxxx

   复制

7. 7部署到 GCP

   使用 Cloud Run 部署，端口同样为 8001，允许未认证访问并设置环境变量。

   gcloud run deploy my-service --source . --port 8001 --allow-unauthenticated --region us-central1 --set-env-vars=OPENAI_API_KEY=sk-xxxxxxxx

   复制

关键配置

如何确认成功

访问部署后服务的 /docs 页面，能看到自动生成的 Swagger/JSONSchema API 文档与 Playground 即成功。

常见问题

注意事项

• 项目已废弃（DEPRECATED），新项目建议迁移到 LangGraph Platform，README 提供 MIGRATION.md 迁移指南。
• README 使用 poetry 管理依赖，改造示例工程时应遵循其 poetry 文档。
• Azure Container Apps 与 Cloud Run 的示例目标端口均为 8001，需与服务监听端口保持一致。
• 云平台部署命令中的 app、service、resource-group 等名称需替换为你自己的真实名称。