ort

用 Rust 跑 ONNX 模型，推理训练一把梭

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署基础设施 🍴 复刻 279 🐛 待处理 3 👀 关注 17

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 2610

维护状态较活跃

是否开源开源

定价模式 🏷️完全免费开源项目，Apache-2.0 许可证，完全免费，无付费版本。

项目预览

项目数据

分类基础设施

开发团队pykeio

官网地址https://ort.pyke.io

GitHubhttps://github.com/pykeio/ort

定价模式🏷️完全免费

价格说明开源项目，Apache-2.0 许可证，完全免费，无付费版本。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Rust

技术栈/模型ai,ai-training,fine-tuning,inference,machine-learning,onnx,onnxruntime,rust

GitHub 星标★ 2610

上线时间2022-11-26 00:00:00

代码更新2026-11-01

仓库体积8.3 MB

本站数据更新2026-11-09

维护状态较活跃

收录时间2026-08-10

浏览次数6

项目介绍

ort 是一个基于 Rust 的 ONNX 模型推理与训练库，它封装了微软的 ONNX Runtime，为 Rust 开发者提供了高性能的机器学习推理能力。该项目解决了 Rust 生态中缺乏成熟 ONNX 支持的问题，让开发者能够用纯 Rust 代码加载和运行 ONNX 格式的模型，而无需依赖 Python 或 C++。其核心能力包括支持 CPU、CUDA、TensorRT 等多种执行后端，提供灵活的图形优化选项，并支持模型微调（fine-tuning）和训练。通过类型安全的 API 和内存管理，ort 在保证性能的同时，也提升了开发效率和代码安全性。它适用于需要将机器学习模型集成到 Rust 服务、嵌入式系统或高性能计算场景中的开发者，是连接 Rust 与 ONNX 模型生态的重要桥梁。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 2610

技术标签

ai fine-tuning inference machine-learning onnx

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：进阶约 10 分钟部署方式：库/依赖 5 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

Rust 工具链与 Cargo（README 的 MSRV 徽章表明有最低 Rust 版本要求）
一个 ONNX 格式的模型文件（可由 PyTorch/TensorFlow/Keras/scikit-learn/PaddlePaddle 部署而来）
若需硬件加速，需准备对应执行后端环境（如 CUDA、TensorRT），详见官方文档
可访问 ort.pyke.io 官方 Guide 以获取实际接入代码

安装与启动步骤

1准备 Rust 环境

ort 是 Rust 库，需要 Cargo 构建工具链；若命令报错，请先安装 Rust（rustup.rs）。
```
cargo --version
```
2创建 Rust 项目

新建一个项目作为集成 ort 的入口；已有 Rust 项目可直接跳过这一步。
```
cargo new ort-demo
cd ort-demo
```
3添加 ort 依赖

crate 名为 ort；README 中 API 文档指向 2.0.0-rc.13，说明当前 v2 仍是预发布版，实际版本以 crates.io 为准。
```
cargo add ort
```
4准备 ONNX 模型

ort 用来加载 ONNX 格式模型，可来自 PyTorch/TensorFlow/Keras/scikit-learn/PaddlePaddle 导出的文件。
5查官方指南与示例

README 未给出安装与调用命令，启用执行后端、图形优化等具体写法请查阅官网 Guide 与仓库 examples。

如何确认成功

README 未提供验证方式；按官方 Guide 或 examples 跑通示例，能加载模型并得到推理结果即算成功。

常见问题

Q：用 ort 还需要装 Python 或 ONNX Runtime 吗？

A：README 说明 ort 是微软 ONNX Runtime 的 Rust 封装，用纯 Rust 代码即可加载运行 ONNX 模型，无需依赖 Python 或 C++ 代码。

Q：支持哪些硬件加速？

A：README 称支持几乎所有硬件加速器，并提供 CPU、CUDA、TensorRT 等多种执行后端，具体清单见官网 execution providers 页面。

Q：v1.x 升级到 v2.0 怎么迁移？

A：README 提供了专门的迁移文档入口 ort.pyke.io/migrating/v2，升级前建议先通读该指南（注意 v2 仍为 RC 版本）。

Q：从哪里开始接入？

A：README 列出了 Guide、API reference（docs.rs/ort）、Examples 三个入口，建议先用 examples 里的示例代码跑通再改造。

注意事项

README 节选里没有安装命令，本教程步骤只包含 Rust 项目的通用准备动作，不代表官方安装流程；实际接入请以 ort.pyke.io 的 Guide 为准。
项目 main 分支对应 ONNX Runtime v1.28.0，v2 目前为 RC（API 文档版本 2.0.0-rc.13），接口可能继续变化。
ort 基于已停止维护的 onnxruntime-rs，并额外支持其他纯 Rust 运行时后端。
README 未提及任何配置项、端口或路径，故不提供 configs 与实际运行命令。