langchain-serve

一键把 Langchain 应用部署成生产级服务，省心省力

langchain-serve 是一个将 Langchain 应用部署到生产环境的工具，基于 Jina 和 FastAPI 构建。它解决了 Langchain 应用从原型到生产部署的痛点，提供了一键启动、可扩展的微服务架构，支持多种模型和插件。核心能力包括：通过简单的命令行或 Python API 将 Langchain 应用打包为 RESTful 或 gRPC 服务，自动处理并发、负载均衡和监控；支持多种部署目标（本地、云、Kubernetes）；内置了与 Slack 等平台的集成，便于构建聊天机器人等交互式应用。它特别适合需要快速上线 AI 应用、或希望将 Langchain 与现有微服务架构融合的开发者，降低了生产环境部署的复杂度。

开源 unknown 智能体

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 1638

维护状态低维护

是否开源是

定价模式 unknown

项目数据

分类智能体

开发团队jina-ai

所属国家

官网地址https://cloud.jina.ai

GitHubhttps://github.com/jina-ai/langchain-serve

定价模式unknown

价格说明定价信息待确认

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型autogpt,autonomous-agents,babyagi,chatbot,fastapi,gpt,langchain,llm,production,python,slack

GitHub 星标★ 1638

30天Star增速

HF 下载量

上线时间2023-03-21 00:00:00

最近更新2026-09-20 00:00:00

维护状态低维护

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数6

使用教程

难度：进阶约 10 分钟部署方式：命令行工具 6 步

环境要求

Python 环境与 pip（README 未指定版本）
通过 pip 安装 langchain-serve 包
需要部署的 LangChain 应用目录（含 main.py、requirements.txt）
可选：Docker Compose 或 Kubernetes 环境用于自托管部署
可选：Jina AI Cloud 账号用于 jcloud 部署

安装与启动步骤

1安装 langchain-serve

使用 pip 从 PyPI 安装 langchain-serve 命令行工具，安装后即可使用 lcserve / lc-serve 命令。
```
pip install langchain-serve
```
2准备应用目录

准备一个应用目录，内含 main.py（应用本体）和 requirements.txt（依赖），README 中的示例目录结构即为此布局。
3编写密钥文件

创建 .env 格式的密钥文件，按 KEY=VALUE 写法填入密钥；README 示例中的 secrets.env 只是占位示例，需换成自己的真实值。
4编写部署配置

可选。在应用目录放 jcloud.yml 指定 instance、autoscale_min、disk_size；不提供则使用默认值 C3 / 1 / 1G。
5部署到 JCloud

用部署命令把应用推到 JCloud，并通过 --secrets 传入密钥文件；密钥会在部署时注入应用。
```
lcserve deploy jcloud app --secrets .env
```
6导出编排文件自托管

如需部署到自有基础设施，用 export 命令一键导出 Kubernetes 或 Docker Compose 的 YAML 清单。
```
lc-serve export app --kind docker-compose --path .
```

关键配置

配置项	必填	说明	示例
`instance`	否	JCloud 实例类型，取值见 Jina AI Cloud 文档	`C4`
`autoscale_min`	否	最小副本数，设为 0 即启用 serverless 模式	`0`
`disk_size`	否	磁盘大小，单位 GB，默认 1G	`1.5G`
`OPENAI_API_KEY`	否	写入 .env 密钥文件的 OpenAI 密钥示例	`sk-xxx`

如何确认成功

README 未给出明确的成功校验方式；可在命令中加 --verbose 观察镜像构建与推送日志来判断进展。

常见问题

Q：JCloud 推送镜像到 Jina Hubble 失败怎么办？

A：加上 --verbose 重试以获取更多信息；如果在 arm64 架构的机器上操作，请加 --platform linux/amd64 重试，确保镜像能正确构建。

Q：没有提供配置文件时会用什么默认值？

A：默认 instance 为 C3、autoscale_min 为 1、disk_size 为 1G。未指定某一项配置时，该项也按默认值处理。

Q：同时写了本地 jcloud.yaml 又用命令行 --config 会怎样？

A：命令行显式使用 --config 时，本地 jcloud.yaml 会被忽略，命令行提供的配置优先级更高。

Q：这个项目还在维护吗？

A：README 顶部已声明该仓库不再维护（no longer maintained），新项目请谨慎评估后再选型。

Q：密钥文件怎么传给应用？

A：把密钥写成 .env 格式文件，部署时用 --secrets 参数传入，例如 lcserve deploy jcloud app --secrets .env。

注意事项

仓库已停止维护，README 明确标注 no longer maintained，不建议用于新的生产项目。
README 中的 secrets.env 是占位示例，必须替换为自己的真实密钥后再部署。
除 JCloud 部署外，还可导出 Kubernetes / Docker Compose YAML，部署到自有基础设施以满足安全策略。
README 提到可用 @slackbot 装饰器构建 Slack 机器人、@job 装饰器触发一次性异步任务，并附有对应的分步指南链接。

核心亮点

基于 FastAPI 和 Jina，提供高性能的异步 API 和 gRPC 支持，适合高并发场景
命令行工具简化部署流程，支持本地、云和 Kubernetes 多种环境
内置 Slack 集成，可快速搭建聊天机器人并接入生产通讯工具

不足之处

文档和社区资源相对有限，新手上手可能遇到障碍
项目活跃度一般，更新频率可能不如核心 Langchain 项目

适用场景

将 Langchain 驱动的聊天机器人部署到 Slack 等企业通讯平台
为内部 AI 应用提供可扩展的 RESTful 或 gRPC 服务接口
在 Kubernetes 集群中管理多个 Langchain 应用的生命周期

替代项目

LangServe、Ray Serve、BentoML

项目介绍

langchain-serve 是开发框架领域的开源项目，由 jina-ai 开发，2023 年首次发布。

在全站 13,090 个收录项目中，它的 GitHub 星标数（1,638）位列前 30%，在开发框架分类中处于中上游。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-20。从国内网络环境看，当前已无法正常访问。

它主要面向的使用场景是：将Langchain驱动的聊天机器人部署到Slack等企业通讯平台。同类可对比的替代方案包括 LangServe、Ray Serve、BentoML。

上一篇：agency

下一篇：botkit