langchain-serve

一键把 Langchain 应用部署成生产级服务,省心省力

开源 🏷️定价信息待确认 🚫 站点已失效 智能体 🍴 复刻 130 🐛 待处理 15 👀 关注 5 ⚠️ 作者已归档(停止维护)
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 1631
维护状态 低维护
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

langchain-serve 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类智能体
开发团队jina-ai
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态🚫 站点已失效
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型autogpt,autonomous-agents,babyagi,chatbot,fastapi,gpt,langchain,llm,production,python,slack
GitHub 星标★ 1631
上线时间2023-03-21 00:00:00
代码更新2023-09-20
仓库体积39.4 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数9

项目介绍

langchain-serve 是一个将 Langchain 应用部署到生产环境的工具,基于 Jina 和 FastAPI 构建。它解决了 Langchain 应用从原型到生产部署的痛点,提供了一键启动、可扩展的微服务架构,支持多种模型和插件。核心能力包括:通过简单的命令行或 Python API 将 Langchain 应用打包为 RESTful 或 gRPC 服务,自动处理并发、负载均衡和监控;支持多种部署目标(本地、云、Kubernetes);内置了与 Slack 等平台的集成,便于构建聊天机器人等交互式应用。它特别适合需要快速上线 AI 应用、或希望将 Langchain 与现有微服务架构融合的开发者,降低了生产环境部署的复杂度。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1631

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:进阶 约 10 分钟 部署方式:命令行工具 6 步

环境要求

  • Python 环境与 pip(README 未指定版本)
  • 通过 pip 安装 langchain-serve 包
  • 需要部署的 LangChain 应用目录(含 main.py、requirements.txt)
  • 可选:Docker Compose 或 Kubernetes 环境用于自托管部署
  • 可选:Jina AI Cloud 账号用于 jcloud 部署

安装与启动步骤

  1. 1安装 langchain-serve

    使用 pip 从 PyPI 安装 langchain-serve 命令行工具,安装后即可使用 lcserve / lc-serve 命令。

    pip install langchain-serve
  2. 2准备应用目录

    准备一个应用目录,内含 main.py(应用本体)和 requirements.txt(依赖),README 中的示例目录结构即为此布局。

  3. 3编写密钥文件

    创建 .env 格式的密钥文件,按 KEY=VALUE 写法填入密钥;README 示例中的 secrets.env 只是占位示例,需换成自己的真实值。

  4. 4编写部署配置

    可选。在应用目录放 jcloud.yml 指定 instance、autoscale_min、disk_size;不提供则使用默认值 C3 / 1 / 1G。

  5. 5部署到 JCloud

    用部署命令把应用推到 JCloud,并通过 --secrets 传入密钥文件;密钥会在部署时注入应用。

    lcserve deploy jcloud app --secrets .env
  6. 6导出编排文件自托管

    如需部署到自有基础设施,用 export 命令一键导出 Kubernetes 或 Docker Compose 的 YAML 清单。

    lc-serve export app --kind docker-compose --path .

关键配置

配置项必填说明示例
instance否JCloud 实例类型,取值见 Jina AI Cloud 文档C4
autoscale_min否最小副本数,设为 0 即启用 serverless 模式0
disk_size否磁盘大小,单位 GB,默认 1G1.5G
OPENAI_API_KEY否写入 .env 密钥文件的 OpenAI 密钥示例sk-xxx

如何确认成功

README 未给出明确的成功校验方式;可在命令中加 --verbose 观察镜像构建与推送日志来判断进展。

常见问题

Q:JCloud 推送镜像到 Jina Hubble 失败怎么办?

A:加上 --verbose 重试以获取更多信息;如果在 arm64 架构的机器上操作,请加 --platform linux/amd64 重试,确保镜像能正确构建。

Q:没有提供配置文件时会用什么默认值?

A:默认 instance 为 C3、autoscale_min 为 1、disk_size 为 1G。未指定某一项配置时,该项也按默认值处理。

Q:同时写了本地 jcloud.yaml 又用命令行 --config 会怎样?

A:命令行显式使用 --config 时,本地 jcloud.yaml 会被忽略,命令行提供的配置优先级更高。

Q:这个项目还在维护吗?

A:README 顶部已声明该仓库不再维护(no longer maintained),新项目请谨慎评估后再选型。

Q:密钥文件怎么传给应用?

A:把密钥写成 .env 格式文件,部署时用 --secrets 参数传入,例如 lcserve deploy jcloud app --secrets .env。

注意事项

  • 仓库已停止维护,README 明确标注 no longer maintained,不建议用于新的生产项目。
  • README 中的 secrets.env 是占位示例,必须替换为自己的真实密钥后再部署。
  • 除 JCloud 部署外,还可导出 Kubernetes / Docker Compose YAML,部署到自有基础设施以满足安全策略。
  • README 提到可用 @slackbot 装饰器构建 Slack 机器人、@job 装饰器触发一次性异步任务,并附有对应的分步指南链接。

核心亮点

  • 基于 FastAPI 和 Jina,提供高性能的异步 API 和 gRPC 支持,适合高并发场景
  • 命令行工具简化部署流程,支持本地、云和 Kubernetes 多种环境
  • 内置 Slack 集成,可快速搭建聊天机器人并接入生产通讯工具

不足之处

  • 文档和社区资源相对有限,新手上手可能遇到障碍
  • 项目活跃度一般,更新频率可能不如核心 Langchain 项目

适用场景

  • 将 Langchain 驱动的聊天机器人部署到 Slack 等企业通讯平台
  • 为内部 AI 应用提供可扩展的 RESTful 或 gRPC 服务接口
  • 在 Kubernetes 集群中管理多个 Langchain 应用的生命周期

替代项目

LangServe、Ray Serve、BentoML

上一篇:agency

下一篇:botkit

同类项目推荐

Open-WebUI-Functions 开源

一键扩展 Open WebUI,轻松对接 Azure、Gemini 和 N8N。

Open-WebUI-Functions is a collection of custom pipelines, filters, and integrations ···

★ 394 2026-08-20
claude-code-workflows 开源

让 Claude Code 干活不跑偏,聚焦你批准的结果。

Development workflows for Claude Code that keep broad exploration focused on the out···

★ 712 2026-08-09
CodingIT 开源

用大白话描述需求,AI 帮你把应用搭出来

CodinIT.dev Demo | Open-source, AI app builder prototype Star to support the projec···

★ 174 2026-08-09
railtracks 开源

让AI代理更抗造,干活不翻车

An agentic framework that helps developers build resilient agentic systems

★ 235 2026-08-09
chat-gun 开源

给 Agent 加持久化执行和可观测,预生产验证不翻车

Full-stack AI agent app built with React, TypeScript and LangGraph JS. Streaming, mu···

★ 148 2026-09-12
langchain-langgraph-tutorial 开源

跟练 Jupyter 教程,用 Groq 快速搭 LangGraph 智能体

Comprehensive tutorials for LangChain, LangGraph, and LangSmith using Groq LLM. Lear···

★ 108 2026-09-12
pipecat 开源

几行代码搭出能实时对话、可打断的语音 AI 助手

Open Source framework for voice agents, multimodal apps, and realtime AI. Maintained···

★ 17161 2026-10-11
context-engineering 开源

把 AI 上下文当工程做,输出更稳更准更可控

Context Engineering: Build Consistent, Accurate, Predictable AI Systems

★ 185 2026-08-09