web-llm-assistant
浏览器里直接跑大模型，聊天数据不出本地
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 86
核心亮点
- 完全本地推理，隐私零泄露，无需上传对话数据
- 利用 WebGPU 加速，模型加载和推理速度在浏览器中表现良好
- 支持多种主流开源模型，可灵活切换，适配不同需求
不足之处
- 受限于浏览器内存和算力，模型规模有限，复杂任务能力弱
- 文档和社区生态尚不完善，上手和排错有一定门槛
适用场景
- 隐私敏感场景，如医疗、金融等行业的本地化问答
- 离线环境或弱网环境下的智能助手需求
- 前端开发者和 AI 爱好者进行模型推理实验和教学
替代项目
WebLLM、Transformers.js、llama.cpp (WebAssembly 版本)
上一篇：llm_telegram_bot
下一篇：FoundationChat
同类项目推荐
raycast-g4f
开源
在 Raycast 里免费调用 GPT/Claude/Llama，一步直达 AI 对话
Raycast extension to use GPT, Claude, Llama, and more... all for FREE! + Full suppor···
chatbot
开源
用Transformer快速搭建单轮对话机器人
Transformer模型训练的单轮对话聊天机器人
buildship-chat-widget
开源
几行代码接入 AI 聊天，自由对接数据库和工具
AI Chat Widget - flexible and lite chat widget that can connect to OpenAI Assistant,···
urban-bot
开源
用 React 写一次，机器人跑遍所有聊天平台
The universal chatbot library based on React. Write once, launch Telegram, Discord, ···
koishi-desktop
开源
把 Koishi 聊天机器人变成桌面应用，双击即用
Launch Koishi from your desktop
GPT-Shell
开源
在 Discord 里直接聊 AI、生成图片，一步到位
Open-source Discord AI companion with ChatGPT-style conversations and image generati···
whatsapp-agentkit
开源
访谈式生成代码，30 分钟搭出 WhatsApp AI 客服
Construye tu agente de WhatsApp con IA en menos de 30 minutos. Claude Code te entrev···
claude-autonomous-deployment
开源
把 Claude 长上下文能力搬进自己项目，代码写作一把抓
Claude 2026: The Developer’s Smartest AI for Long-Context Code & Writing
integrations
开源
一套代码，接入所有主流聊天渠道
Connect your App to Multiple Messaging Channels with the W3C Open standard.