
burn-onnx
把 ONNX 模型转成纯 Rust Burn 代码,推理微调不再依赖 Python
burn-onnx 是一个把 ONNX 模型转换为 Burn 框架原生 Rust 代码的工具,目标是让训练好的模型脱离 Python 与 ONNX Runtime 依赖,直接在 Rust 生态里做推理和微调。它解决了部署阶段常见的跨语言、跨运行时问题:ONNX 模型虽然通用,但实际跑起来往往要拖着一套 C++/Python 运行时,而 Burn 是纯 Rust 的深度学习框架,支持多种后端(CPU、GPU 等)。burn-onnx 通过解析 ONNX 计算图,生成对应的 Burn 代码,使模型可以编译进 Rust 程序,享受静态类型、跨平台编译和统一后端切换。核心能力包括 ONNX 算子到 Burn 算子的映射、生成可读的 Rust 推理代码、保留权重加载路径,并支持在此基础上继续微调。项目处于早期阶段,星标数不高,适合关注 Rust 端模型部署与 Burn 生态的开发者尝试。
项目数据
使用教程
核心亮点
- 生成的是原生 Rust 代码,可编译进二进制,部署时无需 Python 或 ONNX Runtime
- 后端无关,同一份生成代码可切换 Burn 的 CPU/GPU 等后端
- 保留权重加载与微调能力,不只是推理导出
不足之处
- 项目早期,ONNX 算子覆盖可能不完整,复杂模型转换易失败
- 文档与社区案例较少,遇到问题可参考的资料有限
适用场景
- 把 PyTorch 训练好的模型导出 ONNX 后,转成 Rust 服务端推理代码
- 在 Rust 项目中嵌入模型并做少量微调,避免引入 Python 依赖
- 需要跨平台编译部署(如边缘设备)时,用 Burn 统一后端运行模型
替代项目
tract、onnxruntime
项目介绍
下一篇:LightRFT
同类项目推荐
Long-RL
开源
让强化学习轻松驾驭超长序列,训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性,长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型,练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型,推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···