langcorn

把 LangChain 应用一键变成 API 服务,快速上线

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 69 🐛 待处理 21 👀 关注 7
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 940
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,可自行部署使用。

项目预览

langcorn 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队msoedov
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型api,fastapi,langchain,langchain-python,large-language-models,llm,llmops,openai-api,rest-api,vercel,vercel-serverless-functions
GitHub 星标★ 940
上线时间2023-04-14 00:00:00
代码更新2024-07-15
仓库体积870 KB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数5

项目介绍

langcorn 是一个将 LangChain 应用和智能体自动封装为 FastAPI 服务的工具,旨在简化 LLM 应用的部署和运维。它解决了 LangChain 应用从原型到生产环境部署过程中缺乏标准化服务接口的问题,通过自动生成 API 端点,让开发者无需手动编写 FastAPI 路由即可快速上线 LLM 服务。核心能力包括:自动将 LangChain 链和智能体转换为 RESTful API,支持同步和异步请求,提供流式响应支持,并内置了 CORS 中间件和请求日志记录。它基于 FastAPI 构建,天然支持 OpenAPI 文档和 Swagger UI,方便调试和集成。项目定位为 LLMOps 工具,强调部署的自动化与便捷性,适合快速构建 LLM 应用的后端服务。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 940

使用教程

难度:入门 约 15 分钟 部署方式:本地 (Python) 4 步

环境要求

  • Python 3.9+
  • LangChain
  • LLM API Key

安装与启动步骤

  1. 1安装

    一行 pip,自带 FastAPI 与 uvicorn 依赖。

    pip install langcorn
  2. 2起一个 chain

    把模块路径传给 server 子命令,它会自动暴露 HTTP 接口。

    python -m langcorn server examples.ex1:chain
  3. 3挂多个 chain

    同一条命令里给多个模块路径,各自生成独立路由。

    python -m langcorn server examples.ex1:chain examples.ex2:chain
  4. 4加鉴权

    对外暴露时务必带 auth_token,否则接口裸奔。

    python -m langcorn server examples.ex1:chain --auth_token=api-secret-value

如何确认成功

启动后访问 8718 端口的 /docs 能看到自动生成的接口文档。

常见问题

Q:端口被占用?

A:加 --port 指定其它端口,或改 uvicorn 启动参数。

注意事项

  • 默认端口 8718;chain 的入参出参结构由 LangChain 定义推导,复杂嵌套类型需手写 schema。

核心亮点

  • 自动生成 FastAPI 路由,无需手写接口代码,部署效率高
  • 支持流式响应,适合聊天等实时交互场景
  • 内置 CORS 和日志,减少生产环境配置工作

不足之处

  • 项目较早期,文档和社区生态尚不完善
  • 对复杂 LangChain 智能体的自定义配置支持有限

适用场景

  • 快速将 LangChain 原型转为可调用的 REST API
  • 为 LLM 应用提供统一的后端服务接口,便于前端集成
  • 在微服务架构中作为 LLM 服务的独立部署单元

替代项目

LangServe、Chainlit、FastAPI + LangChain 手动集成

上一篇:sugarcane-ai

下一篇:genai-stack

同类项目推荐

OgbujiPT 开源

一套代码接入各种大模型,自托管也能轻松搞定

Client-side toolkit for using large language models, including where self-hosted

★ 115 2026-08-09
pi-anthropic-oauth 开源

给 Pi 智能体接上 Claude 订阅账号的授权扩展

Pi extension for Anthropic OAuth with Claude Pro/Max.

★ 115 2026-10-27
hamilton 开源

用普通 Python 函数构建可测试、有血缘的数据流,随处运行

Apache Hamilton helps data scientists and engineers define testable, modular, self-d···

★ 2625 2026-08-09
framework 开源

用 PHP 写一套代码,轻松对接多个聊天平台

Chatbot framework

★ 123 2026-08-09
ollama-python 开源

几行 Python 代码调用本地大模型,同步异步都支持

Ollama Python library

★ 10690 2026-10-15
langchain-serve 开源

一键把 Langchain 应用部署成生产级服务,省心省力

⚡ Langchain apps in production using Jina & FastAPI

★ 1631 2026-08-09
agentsilex 开源

300行代码,让你完全掌控AI智能体,无黑盒魔法

A transparent, minimal, and hackable agent framework. ~300 lines of readable code. F···

★ 458 2026-08-09
agentUniverse 开源

像搭积木一样,快速构建多智能体协作应用。

agentUniverse is a LLM multi-agent framework that allows developers to easily build ···

★ 2430 2026-08-09
fya 开源

让 Claude Code 输出标准化,轻松接入自动化脚本

PTY-backed Claude Code wrapper that provides claude -p compatible output

★ 72 2026-08-09