LangChain-ChatGLM-Webui

上传本地文档,即刻用ChatGLM搭建私有知识库问答

LangChain-ChatGLM-Webui 是一个基于 LangChain 和 ChatGLM-6B 等系列大语言模型的本地知识库问答系统。它解决了在离线或私有环境下,如何利用大模型对本地文档进行智能问答的问题。核心能力包括:加载多种格式的本地文档(如 PDF、Word、Markdown 等),通过文本向量化构建知识库索引,并利用 LangChain 的检索增强生成(RAG)流程,让模型基于检索到的文档内容生成回答,从而减少幻觉。项目提供了 Web UI 界面,方便用户上传文档、提问和查看引用来源,也支持命令行交互。技术栈上采用 FastAPI 后端和 Gradio 前端,集成了 HuggingFace 的 embedding 模型和向量数据库(如 FAISS),并支持 ChatGLM-6B、ChatGLM2-6B 等模型的加载。整体上,它是一个面向开发者和技术爱好者的可定制化本地知识库问答解决方案,适合快速部署私有化问答服务。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 3310
维护状态 低维护
是否开源
定价模式 free

项目数据

分类开源模型
开发团队X-D-Lab
所属国家
官网地址
定价模式free
价格说明开源项目,基于Apache-2.0许可证,可免费使用和部署,无付费版本。
访问状态
是否开源
开源协议Apache-2.0
主要语言Python
技术栈/模型belle,bilibili,chatglm-6b,chatglm-webui,jina,langchain,langchain-serve,llama,llm,minimax,modelscope
GitHub 星标★ 3310
30天Star增速
HF 下载量
上线时间2023-04-10 00:00:00
最近更新2026-09-21 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数4

使用教程

难度:进阶 约 15 分钟 部署方式:本地安装 5 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • Python >= 3.8.1
  • 可访问 GitHub / ModelScope / HuggingFace 的网络环境
  • 预留磁盘空间用于存放模型权重(README 未给出具体大小)

安装与启动步骤

  1. 1确认 Python 版本

    README 明确要求 Python>=3.8.1,先在终端确认本机版本,低于该版本需先升级。

    python --version
  2. 2获取项目代码

    从 GitHub 克隆仓库到本地,后续所有操作都在该目录内进行。

    git clone https://github.com/X-D-Lab/LangChain-ChatGLM-Webui.git
  3. 3阅读官方部署文档

    README 未直接给出安装命令,务必先看仓库内 docs/deploy.md 与 B 站视频教程。

  4. 4选择版本部署

    项目提供 ModelScope 版本和 HuggingFace 版本两套方案,按部署文档选择其一执行。

  5. 5在线体验(可选)

    不想本地部署时,可用 HuggingFace Spaces、ModelScope 等官方在线体验地址。

如何确认成功

README 未给出启动命令与端口,以 docs/deploy.md 为准;Web UI 正常启动后浏览器可打开页面并提问。

常见问题

Q:README 里看不到 pip install 之类的安装命令怎么办?

A:README 只给出了入口,实际安装步骤在仓库的 docs/deploy.md 部署文档和配套 B 站视频教程中,按文档执行即可。

Q:ModelScope 版本和 HuggingFace 版本怎么选?

A:两者是同一系统的不同模型来源分发版本。国内网络环境一般选 ModelScope 版本下载模型更顺畅,海外或已有 HF 缓存则选 HuggingFace 版本。

Q:必须本地部署吗?

A:不是。README 提供了 HuggingFace Spaces、ModelScope Studio、OpenXLab、AIStudio 等多个在线体验入口,可直接试用。

Q:对 Python 版本有什么要求?

A:README 明确要求 Python>=3.8.1,低于此版本建议先升级再按部署文档操作。

注意事项

  • README 未提供安装命令、依赖列表、端口和配置文件,具体步骤以 docs/deploy.md 与视频教程为准。
  • 项目同时提供 ModelScope 版本与 HuggingFace 版本,部署前先确定使用哪一套。
  • 官方还有 B 站视频教程(BV1No4y1b7eu),部署卡住时可对照视频操作。
  • 本教程仅整理 README 已有信息,未给出的包名、参数、端口均未虚构。

核心亮点

  • 支持多格式文档(PDF/Word/MD)一键导入,构建本地知识库
  • 基于LangChain的RAG流程,回答可溯源到具体文档片段
  • 提供Web UI和CLI双交互,部署简单,适合快速验证

不足之处

  • 依赖ChatGLM-6B等模型,对显存要求较高,低配硬件运行吃力
  • 文档/社区待观察:项目更新频率和文档完善度有待提升

适用场景

  • 企业内部私有文档的智能检索与问答
  • 学术研究者快速搭建个人知识库助手
  • 开发者在离线环境部署大模型问答服务

替代项目

LangChain-Chatchat、Quivr、Dify

项目介绍

LangChain-ChatGLM-Webui 是开发框架领域的开源项目,由 X-D-Lab 开发,2023 年首次发布。

在全站 13,014 个收录项目中,它的 GitHub 星标数(3,310)位列前 30%,在开发框架分类的 795 个项目里位列前 15%。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-21。基于Apache-2.0许可证,可免费使用和部署,无付费版本。

它主要面向的使用场景是:企业内部私有文档的智能检索与问答。同类可对比的替代方案包括 LangChain-Chatchat、Quivr、Dify。

上一篇:towhee

下一篇:langgraphjs

同类项目推荐

langchain 开源

组装 AI 应用的乐高积木,从想法到上线不换工具

The agent engineering platform.

★ 146874 2026-08-09
transformers 开源

全球最大的模型仓库全家桶,想用的模型一把抓

Transformers: the model-definition framework for state-of-the-art machine learning m···

★ 166529 2026-08-09
pi 开源

一套 TypeScript 工具包,快速搭出能写代码的 AI agent

AI agent toolkit: unified LLM API, agent loop, TUI, coding agent CLI

★ 108504 2026-09-12