onnxruntime
本站收录 41 个带「onnxruntime」标签的 AI 开源项目
supertonicsupertonic 是一个极速的端侧多语言文本转语音（TTS）引擎，基于 ONNX Runtime 原生运行，支持 iOS、Flutter、Node.js、P★ 13,789
supertonicsupertonic 是一个超快速、完全离线的多语言文本转语音（TTS）引擎，基于 ONNX Runtime 原生运行，无需云端依赖。它解决了传统 TTS 服务★ 13,789
X-AnyLabelingX-AnyLabeling 是一款轻量、高效、跨平台的桌面标注工具，专为文本、图像、视频和多模态数据设计。它集成了丰富的内置标注工具（如矩形框、多边形、关键点等★ 10,569
RTranslatorRTranslator 是一款开源的 Android 实时翻译应用，完全在本地运行，无需联网，保护用户隐私。它利用 Meta 的 NLLB 模型和 ONNX R★ 10,469
RapidOCRRapidOCR 是一个基于 ONNX Runtime、OpenVINO、MNN、PaddlePaddle、TensorRT 和 PyTorch 等多种推理引擎★ 7,999
lemonadeLemonade 是一个面向本地 AI 应用的开源推理引擎，旨在让用户直接在自己的 GPU 和 NPU 上运行优化后的大语言模型。它解决了云端 AI 带来的隐私★ 5,797
obs-backgroundremovalobs-backgroundremoval 是一个 OBS Studio 插件，用于在直播或录制视频时实时移除人像背景，方便主播和内容创作者无需绿幕即可替换或虚★ 4,583
lite.ai.toolkitlite.ai.toolkit 是一个轻量级的 C++ AI 推理工具包，集成了 100 多个预训练模型，支持 MNN、ONNX Runtime 和 Tenso★ 4,436
kokoro-onnxkokoro-onnx 是一个基于 ONNX Runtime 的轻量级文本转语音（TTS）工具，旨在将 Kokoro 模型高效地部署到生产环境。它解决了传统 T★ 2,749
ortort 是一个基于 Rust 的 ONNX 模型推理与训练库，它封装了微软的 ONNX Runtime，为 Rust 开发者提供了高性能的机器学习推理能力。该项★ 2,542
unifaceUniFace 是一个面向 Python 的统一人脸分析库，把检测、对齐、关键点、face-mesh、识别、解析、视线估计、属性识别和反欺诈等常见人脸任务收敛到★ 1,957
nndeploynndeploy 是一款专注于 AI 模型部署的 C++ 框架，旨在解决深度学习模型从训练到生产环境落地时面临的碎片化问题。它提供统一的推理接口，屏蔽了不同后端★ 1,882
ai-dev-galleryai-dev-gallery 是一个面向 Windows 开发者的开源示例项目集合，旨在帮助开发者学习如何将本地 AI 模型和云端 API 集成到 Window★ 1,504
EmbedAnythingEmbedAnything 是一个基于 Rust 构建的高性能、模块化、内存安全的向量嵌入与索引引擎，专为生产环境设计。它解决了传统 Python 嵌入库在性能★ 1,309
DragonianVoiceDragonianVoice 是一个基于 C++ 的歌声转换（SVC）和语音合成（TTS）推理库，旨在为生产环境提供高性能、低延迟的模型部署方案。它集成了多种主★ 1,130
APTAPT 是一个开源的 AI 生产力工具，旨在通过本地化部署和隐私保护提升用户效率。它内置了 ChatGPT、DeepSeek、Phi、Qwen 等模型的本地专属★ 770
x-stable-diffusionx-stable-diffusion 是一个专注于 Stable Diffusion 实时推理加速的开源项目，目标是将延迟降低至 0.88 秒。项目集成了多种主★ 556
ultralytics-YOLO-DeepSort-ByteTrack-PyQt-GUI这是一个基于 PyQt 的桌面图形界面应用，把 Ultralytics 的 YOLO 系列模型（YOLOv8、YOLO11、YOLOv13）与 DeepSort★ 461
samexportersamexporter 是一个专注于将 Segment Anything 系列模型导出为 ONNX 格式的工具，支持 SAM、MobileSAM、Efficie★ 429
goinkGoink 是一款基于 Go 语言开发的桌面端 AI 小说创作助手，旨在通过对话式交互降低写作门槛。它解决了传统写作工具缺乏上下文连贯性和素材检索困难的问题，核★ 384
optimum-benchmarkoptimum-benchmark 是 Hugging Face Optimum 生态下的统一多后端基准测试工具，用于对 Transformers、Timm、P★ 341
jietubajietuba 是一款面向 Windows 平台的开源截图工具，使用 Python 与 PySide6 构建，目标是把日常截图后需要的处理动作集中到一个工具里完★ 316
unpaintunpaint 是一款面向 Windows 和 Xbox 平台的本地 AI 图像生成应用，基于 Stable Diffusion 模型，利用 DirectML ★ 285
utekeuteke 是一个面向 AI 智能体的本地优先记忆引擎，用 Rust 编写，提供单一二进制文件，零配置即可运行。它解决 AI 智能体在对话或任务中缺乏长期记忆的★ 268
StableDiffusionStableDiffusion 是一个用 C# 和 ONNX Runtime 实现 Stable Diffusion 模型推理的开源项目，旨在让 .NET 开发★ 246
OnnxStackOnnxStack 是一个基于 C# 和 ONNX Runtime 的 Stable Diffusion 推理框架，旨在为 .NET 开发者提供原生、高效的图像★ 238
ocr这是一个基于 PaddleOCR 模型与 ONNX Runtime 构建的高精度文字检测 OCR 库，支持 JavaScript/TypeScript 在 No★ 209
OnnxTROnnxTR 是 docTR 文档文本识别库的 ONNX 推理管线封装，目标是在不依赖深度学习训练框架的前提下提供高性能、易接入的 OCR 能力。它把 docT★ 197
sd4jsd4j 是一个基于 Java 和 ONNX Runtime 的 Stable Diffusion 推理管线实现，旨在为 Java 开发者提供无需 Python★ 180
ppu-paddle-ocrppu-paddle-ocr 是一个用 TypeScript 重写的 PaddleOCR 轻量级 SDK，目标是在任何能运行 JavaScript 的环境里做多★ 138
VitsServerVitsServer 是一个基于 VITS 模型和 ONNX Runtime 的文本转语音（TTS）推理服务器，专为快速部署和低延迟合成而设计。它解决了 VIT★ 130
RawMangaReaderRawMangaReader 是一款面向漫画爱好者的 OCR 桌面应用，主要解决生肉日文漫画阅读时的文字识别与翻译障碍。它基于 Tauri 构建，前端使用 Ty★ 102
AstraTTSAstraTTS 是一个基于 ONNX Runtime 的跨平台高性能文本转语音（TTS）合成方案，主要面向需要低延迟、流式输出的应用场景。它解决了传统 TTS★ 97
expo-kokoro-onnxexpo-kokoro-onnx 是一个在 Expo 应用中本地运行 Kokoro TTS 的开源项目。它利用 ONNX Runtime 将 Kokoro 文本★ 94
speech-corespeech-core 是一个面向端侧设备的实时语音智能体流水线，用 C++17 编写，基于 ONNX Runtime 和 LiteRT（TensorFlow ★ 90
supertonic-pysupertonic-py 是一个基于 ONNX Runtime 的轻量级端侧文本转语音（TTS）引擎，旨在提供极速、离线的语音合成能力。它解决了传统云 TTS★ 86
distributed-inference这是一个用 Go 语言编写的演示项目，旨在展示如何在深度学习/机器学习领域设计跨语言、分布式的推理管道。它利用 WebRTC 和 Redis Streams 作★ 86
maiseMaise 是一个开源的 Android 语音引擎，专注于在设备端（边缘）提供强大且灵活的语音合成（TTS）能力。它基于 Kotlin 开发，利用 ONNX R★ 76
On-Device-Stable-Diffusion这是一个在移动设备上运行 Stable Diffusion 的开源项目，基于 Flutter 框架和 Dart 语言实现。它解决了在手机等资源受限设备上部署大规★ 68
piper-rspiper-rs 是一个用 Rust 编写的 Piper 文本转语音（TTS）模型推理库。它解决了在 Rust 生态中缺少高质量、离线可用的神经网络语音合成方案★ 65
stable-diffusion-streamlitstable-diffusion-streamlit 是一个将 Stable Diffusion 模型量化压缩并集成到 Streamlit 应用中的开源项目。它★ 52