项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-11-02 · 当前星标 ★ 111
技术标签
核心亮点
- 基于 TypeGPU 抽象 GPU 计算，把 WebGPU 能力封装成可复用的推理运行时
- 用 TypeScript 编写，前端团队可直接集成，无需额外原生依赖
- 覆盖视觉、NLP、语音等多类模型，定位通用 Web 端推理引擎
不足之处
- 项目处于早期，星标约 111，API 稳定性和文档完善度待观察
- 强依赖 WebGPU 支持，旧浏览器与部分设备兼容性受限
适用场景
- 浏览器端图像识别与计算机视觉应用
- 网页内语音转文字等端侧音频处理
- 隐私敏感场景下在本地设备完成模型推理
替代项目
onnxruntime-web、TensorFlow.js、transformers.js
上一篇：LiteRT
下一篇：没有了！
同类项目推荐
weightslab
开源
让 AI 工程师轻松搞定图像、视频、点云等杂乱数据
Monitoring platform for ML teams building real‑world AI at scale.
hongbomiao.com
开源
把个人研发实验变成可分享的知识库
A personal research and development (R&D) lab that facilitates the sharing of knowle···
omegaml
开源
一站式搞定模型从训练到上线，省心省力
MLOps simplified. One-stop AI delivery platform, all the features you need.
ESEILANE
开源
为 AI 和 LLM 打造的高性能知识图谱引擎，让 GraphRAG 更快更聪明。
High-performance Knowledge Graph engine for AI, LLMs, and GraphRAG — built for the ···
cinnamon
开源
监控机器学习数据漂移，早发现早修正，模型稳如磐石。
CinnaMon is a Python library which offers a number of tools to detect, explain, and ···
rkllama
开源
在瑞芯微开发板上像 Ollama 一样本地跑大模型
Ollama alternative for Rockchip NPU: An efficient solution for running AI and Deep l···
vllm-ascend
开源
让 vLLM 在昇腾 NPU 上跑起来，无缝用上大模型推理
Community maintained hardware plugin for vLLM on Huawei Ascend
Bailo
开源
一站式管理 ML 模型全生命周期，让模型资产安全共享、合规可溯。
Managing the lifecycle of machine learning to support scalability, impact, collabora···
ccLoad
开源
自动切换 AI 渠道，告别手动运维，提升调用稳定性
Self-hosted AI API gateway for Claude Code, Codex and Gemini: pool API keys and subs···