项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 114
核心亮点
- 端侧推理，数据不出设备，隐私安全有保障
- 跨平台支持 iOS 和 Android，一套代码多端复用
- 基于 TypeScript，对前端开发者友好，易于集成
不足之处
- 项目早期，文档和社区生态待观察
- 模型兼容性和性能优化需更多实践验证
适用场景
- 移动应用集成离线 AI 功能，如智能回复、图像识别
- 对隐私敏感的场景，如医疗、金融类 App 的本地分析
- 网络不稳定环境下的 AI 应用，如野外导航、应急工具
替代项目
TensorFlow Lite、ONNX Runtime Mobile、ML Kit
上一篇：gibram
下一篇：fastembed-go
同类项目推荐
gpt2giga
开源
改个地址，现有 LLM 客户端直接接 GigaChat
FastAPI proxy for OpenAI, Anthropic and Gemini compatible clients backed by the Giga···
featureform
开源
把已有数据库变成特征存储，无需迁移，快速上线ML特征。
The Virtual Feature Store. Turn your existing data infrastructure into a feature sto···
dola-render-gateway
开源
统一调度视频生成任务，让并发请求不打架
High-performance video generation gateway and session coordinator
llmaker
开源
终端一键拉起整套自托管 LLM 服务栈
Selfhost modern LLM stacks. Run the whole fleet from your terminal
MinivLLM
开源
用最小代码读懂 vLLM 推理内核
Based on Nano-vLLM, a simple replication of vLLM with self-contained paged attention···
privacy-filter
开源
给 LLM 请求装个隐私过滤器，毫秒级脱敏，防数据泄露
LLM privacy gateway in Go — millisecond-latency PII and secret redaction. Used in p···
opentraces
开源
给 AI Agent 装上黑匣子，完整记录每一步操作，调试审计不再抓瞎。
A local-first evidence layer for agent work, capturing what the agent sees, does, an···
awesome-mlops
开源
一张清单，快速摸清 MLOps 工具全家桶，选型不抓瞎
:sunglasses: A curated list of awesome MLOps tools
ai-infra-landscape
开源
一张图看懂生成式AI基础设施全景，快速定位技术选型
This is a landscape of the infrastructure that powers the generative AI ecosystem