ChatLLM-Web

浏览器里跑大模型，隐私安全零服务器

ChatLLM-Web 是一个完全在浏览器中运行的大语言模型对话应用，基于 WebGPU 技术，无需服务器即可与 Vicuna 等模型聊天。它利用 Web LLM 项目将模型推理迁移到客户端，确保数据隐私和安全。项目采用 Next.js 和 React 构建，支持 PWA，可安装到桌面或移动端。核心能力包括：本地推理、离线可用、隐私保护、跨平台支持。解决了传统 LLM 应用依赖云端 API 带来的隐私泄露和网络依赖问题，让用户完全掌控自己的数据。目前处于早期阶段，支持 Vicuna 等模型，但模型规模和速度受限于浏览器硬件。

开源 free 对话助手
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 635
维护状态 维护中
是否开源 是
定价模式 free

项目数据

分类对话助手
开发团队Ryan-yang125
所属国家
官网地址https://chatllm-web.pages.dev
GitHubhttps://github.com/Ryan-yang125/ChatLLM-Web
定价模式free
价格说明完全免费，基于WebGPU在浏览器本地运行，无需服务器，隐私安全。
访问状态
是否开源是
开源协议MIT
主要语言TypeScript
技术栈/模型ai-agents,browser-ai,cloudflare-pages,llama,llm,local-ai,local-models,pwa,react,vite,web-llm,webgpu,webllm
GitHub 星标★ 635
30天Star增速
HF 下载量
上线时间2023-04-23 00:00:00
最近更新2026-09-18 00:00:00
维护状态维护中
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数5

使用教程

核心亮点

  • 完全本地推理，聊天数据不出浏览器，隐私性极强
  • 基于 WebGPU 加速，无需安装任何依赖，打开网页即用
  • 支持 PWA，可安装为桌面应用，体验接近原生

不足之处

  • 模型规模和推理速度受限于浏览器和硬件，复杂任务表现有限
  • 文档/社区待观察

适用场景

  • 隐私敏感场景下的本地 AI 助手
  • 离线环境或弱网条件下的智能对话
  • 快速演示或教学 WebGPU 与 LLM 结合

替代项目

WebLLM、Transformers.js、llama.cpp

项目介绍

ChatLLM-Web 是对话助手领域的开源项目，由 Ryan-yang125 开发，2023 年首次发布。

它收录于对话助手分类，该分类目前共有 905 个项目，GitHub 星标数为 635。

项目仍在小幅维护中，最近一次代码更新于 2026-09-18。完全免费，基于WebGPU在浏览器本地运行，无需服务器，隐私安全。从国内网络环境看，当前已无法正常访问。

它主要面向的使用场景是：隐私敏感场景下的本地AI助手。同类可对比的替代方案包括 WebLLM、Transformers.js、llama.cpp。

上一篇：chat

下一篇：WeAgentChat

同类项目推荐

open-webui 开源

给本地模型配个漂亮聊天室，全家都能用

User-friendly AI Interface (Supports Ollama, OpenAI API, ...)

★ 152821 2026-08-09
prompts.chat 开源

海量好提示词，抄了就能让 AI 更听话

f.k.a. Awesome ChatGPT Prompts. Share, discover, and collect prompts from the commun···

★ 170999 2026-08-09
elia 开源

终端里用键盘快速聊 AI，多模型切换不打断思路

A snappy, keyboard-centric terminal user interface for interacting with large langua···

★ 2479 2026-08-09
NextChat 开源

一个界面聊遍所有主流AI模型，支持全平台部署，轻快又私密。

✨ Zero-config AI chat assistant. No API key needed — sign up and instantly chat wi···

★ 88802 2026-08-09