text-generation-webui-colab

在免费 Colab 上跑大模型，一键启动网页聊天界面

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 349 🐛 待处理 9 👀 关注 31

GitHub ↗

GitHub 星标 ★ 2086

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源项目，完全免费，用户可通过Colab自行部署使用。

项目预览

text-generation-webui-colab 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类开源模型

开发团队camenduru

GitHubhttps://github.com/camenduru/text-generation-webui-colab

定价模式🏷️完全免费

价格说明开源项目，完全免费，用户可通过Colab自行部署使用。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Unlicense

主要语言Jupyter Notebook

技术栈/模型alpaca,colab,colab-notebook,colaboratory,gradio,koala,lama,llama,llamas,llm,vicuna

GitHub 星标★ 2086

上线时间2023-04-08 00:00:00

代码更新2023-12-22

仓库体积165 KB

本站数据更新2026-11-09

维护状态低维护

收录时间2026-08-09

浏览次数2

项目介绍

text-generation-webui-colab 是一个基于 Google Colab 的 Jupyter Notebook 项目，为运行大型语言模型（LLM）提供了便捷的 Gradio Web 界面。它解决了用户在本地硬件资源不足时难以运行大模型的痛点，通过 Colab 的免费或付费 GPU 算力，让用户无需复杂配置就能快速启动一个交互式聊天或推理界面。核心能力包括：一键启动多种主流开源模型（如 Llama、GPT-NeoX 等）、支持模型量化以降低显存占用、提供类 ChatGPT 的对话体验，并集成了文本生成、参数调节、模型切换等功能。项目面向开发者、研究人员和 AI 爱好者，降低了使用大模型的门槛，适合快速原型验证和教学演示，但受限于 Colab 的会话时长和资源配额。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 2086

技术标签

alpaca colab colab-notebook gradio llama

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：入门约 15 分钟部署方式：云服务 5 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

一个可用的 Google 账号，并能访问 Google Colab
网络可访问 GitHub、HuggingFace 及 Colab 运行时
建议选择带 GPU 的 Colab 运行时（免费版或 Colab Pro）
浏览器可打开 Gradio 输出的公网链接

安装与启动步骤

1打开对应 Colab

在本仓库中找到想运行的模型对应的 .ipynb 笔记本（README 中按 Colab / Colab Pro 分类列出），点击在 Colab 中打开。
2切换 GPU 运行时

在 Colab 菜单里把运行时类型改为 GPU，否则大模型无法加载或会极慢。
3顺序执行单元格

从上到下依次运行 notebook 单元格，等待依赖安装和模型下载完成，中途不要跳过单元格。
4打开 Web 界面

运行到启动 Gradio 的单元格后，会输出一个可点击的公网地址，点开即为类 ChatGPT 的交互界面。
5排查模板报错

若出现 IndexError: list index out of range，按 README 提示设置所选模型的 instruction template 后重跑。