ChatLLM-Web

浏览器里跑大模型，隐私安全零服务器

开源 🏷️完全免费 🚫 站点已失效对话助手 🍴 复刻 48 🐛 待处理 4 👀 关注 9

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 641

维护状态维护中

是否开源开源

定价模式 🏷️完全免费完全免费，基于WebGPU在浏览器本地运行，无需服务器，隐私安全。

项目预览

ChatLLM-Web 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类对话助手

开发团队krisyangdev

官网地址https://chatllm.krisyang.dev

GitHubhttps://github.com/krisyangdev/ChatLLM-Web

定价模式🏷️完全免费

价格说明完全免费，基于WebGPU在浏览器本地运行，无需服务器，隐私安全。

访问状态🚫 站点已失效

是否开源是

开源协议MIT

主要语言TypeScript

技术栈/模型ai-agents,browser-ai,cloudflare-pages,llama,llm,local-ai,local-models,pwa,react,vite,web-llm,webgpu,webllm

GitHub 星标★ 641

上线时间2023-04-23 00:00:00

代码更新2026-08-12

仓库体积6.5 MB

本站数据更新2026-11-08

维护状态维护中

收录时间2026-08-09

浏览次数6

项目介绍

ChatLLM-Web 是一个完全在浏览器中运行的大语言模型对话应用，基于 WebGPU 技术，无需服务器即可与 Vicuna 等模型聊天。它利用 Web LLM 项目将模型推理迁移到客户端，确保数据隐私和安全。项目采用 Next.js 和 React 构建，支持 PWA，可安装到桌面或移动端。核心能力包括：本地推理、离线可用、隐私保护、跨平台支持。解决了传统 LLM 应用依赖云端 API 带来的隐私泄露和网络依赖问题，让用户完全掌控自己的数据。目前处于早期阶段，支持 Vicuna 等模型，但模型规模和速度受限于浏览器硬件。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 641

技术标签

ai-agents llama llm local-ai pwa

使用教程

难度：进阶约 40 分钟部署方式：本地安装 5 步

环境要求

Node.js 20+
支持 WebGPU 的浏览器

安装与启动步骤

1装依赖起服务

前端工程，装完起开发服务即可在浏览器里用。
```
npm install
```
2看它推荐的模型

它会检测当前浏览器能力再推荐模型，别硬上最大的那个。
```
npm run dev
```
3下载本地模型

模型在浏览器缓存里，首次加载慢，之后可离线。
4用本地工作区

除对话外还带本地工作区与模型工作室，先只用一个模块。
5部署到边缘

要发布就用它的部署命令，注意模型文件体积与缓存策略。
```
npx wrangler pages deploy dist --project-name chatllm-web --branch main
```