ChatGLM-web-stream-demo

快速搭建 ChatGLM 流式对话网页,即拿即用

ChatGLM-web-stream-demo 是一个针对 ChatGLM-6B 大语言模型的流式解码演示项目,提供了基于 Flask 和 FastAPI 两种框架的 HTTP 流式 API 实现,并附带开箱即用的 Web 页面。它解决了开发者快速集成 ChatGLM 模型到 Web 应用时面临的流式输出难题,核心能力包括:将模型推理结果以流式方式实时推送到前端,支持打字机效果;同时提供简洁的网页界面,方便用户直接体验模型对话能力。项目代码结构清晰,适合作为学习流式 API 设计和前后端交互的参考,也适合作为快速搭建 ChatGLM 应用的基础模板。

开源 free 对话助手
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 92
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类对话助手
开发团队TylunasLi
所属国家
官网地址
定价模式free
价格说明开源项目,MIT许可证,可自行部署,完全免费。
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型chatbot,chatglm,chatgpt-api
GitHub 星标★ 92
30天Star增速
HF 下载量
上线时间2023-03-25 00:00:00
最近更新2026-07-03 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数5

使用教程

核心亮点

  • 同时提供 Flask 和 FastAPI 两种实现,满足不同后端偏好
  • 流式解码实现打字机效果,交互体验接近 ChatGPT
  • 开箱即用的 Web 页面,无需前端开发即可演示

不足之处

  • 文档/社区待观察
  • 项目较早期,可能未覆盖模型版本更新或高级特性

适用场景

  • 快速搭建 ChatGLM 对话演示站点
  • 学习大模型流式 API 的后端实现
  • 作为 ChatGLM 应用开发的脚手架

替代项目

ChatGLM-6B 官方 Demo、LangChain-ChatGLM、text-generation-webui

项目介绍

ChatGLM-web-stream-demo 是开发框架领域的开源项目,由 TylunasLi 开发,2023 年首次发布。

它收录于开发框架分类,该分类目前共有 795 个项目,GitHub 星标数为 92。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-07-03。MIT许可证,可自行部署,完全免费。

它主要面向的使用场景是:快速搭建ChatGLM对话演示站点。同类可对比的替代方案包括 ChatGLM-6B 官方 Demo、LangChain-ChatGLM、text-generation-webui。

同类项目推荐

langchain 开源

组装 AI 应用的乐高积木,从想法到上线不换工具

The agent engineering platform.

★ 146874 2026-08-09
transformers 开源

全球最大的模型仓库全家桶,想用的模型一把抓

Transformers: the model-definition framework for state-of-the-art machine learning m···

★ 166529 2026-08-09
pi 开源

一套 TypeScript 工具包,快速搭出能写代码的 AI agent

AI agent toolkit: unified LLM API, agent loop, TUI, coding agent CLI

★ 108504 2026-09-12