tinylm
在浏览器里直接跑大模型，离线也能用，接口兼容 OpenAI。
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 60
核心亮点
- 浏览器端推理，无需服务器，降低部署成本和延迟
- OpenAI 兼容 API，方便迁移现有应用
- 支持多种模型类型，包括文本、嵌入和语音合成
不足之处
- 项目处于早期，文档和社区生态待观察
- 浏览器端性能受限，复杂模型推理可能较慢
适用场景
- 隐私敏感的本地 AI 助手
- 离线环境下的智能应用
- 低成本的 Web 端模型演示与原型开发
替代项目
Transformers.js、WebLLM、ONNX Runtime Web
同类项目推荐
rushdb
开源
推送 JSON，秒得可搜索、带关系的 AI 记忆库
RushDB is a self-describing, graph-native database that helps AI agents reason over ···
copilot-api
开源
把 Copilot 订阅变成 OpenAI 兼容 API，一行代码接入现有应用
GitHub Copilot, OpenAI Codex, OpenCode Go, and third-party AI provider gateway with ···
WebAI-to-API
开源
把网页版AI变成API，轻松接入你的应用
Webchat to API
NoLlama
开源
让 Intel NPU 跑起 Ollama 风格本地大模型 API
NPU Ollama - An Ollama/OpenAI compatible API for Intel OpenVINO compatible computers
dud
开源
像管代码一样管数据，轻量级数据版本控制与管道工具
A lightweight CLI tool for versioning data alongside source code and building data p···
mlops.toys
开源
一站式逛遍 MLOps 工具，快速选型不迷路
A curated list of MLOps projects, tools and resources
destructive_command_guard
开源
给 AI 智能体装上安全锁，防止误删误推毁仓库。
A fast Rust safety hook that blocks destructive shell, git, and filesystem commands ···
ai-gate
开源
一个应用搞定所有AI聊天，免密钥免切换
Why juggle 6 AI tools? AI Gate does it. No API keys. A single gateway to ChatGPT, Ge···
gpt-tokenizer
开源
纯 JS 实现 GPT 分词，前端也能算 token
The fastest JavaScript BPE Tokenizer Encoder Decoder for OpenAI's GPT models (gpt-5,···