ncnn

环境要求

• Python 3 环境（用于安装 pnnx 与调用 Python API）
• 已安装 PyTorch 的 Python 环境（pnnx 导出依赖）
• C++ 编译环境（如需使用 net.h 的 C++ API）
• ncnn 库文件（C++ 集成时需要，README 未给出构建命令）

安装与启动步骤

1. 1准备 PyTorch 环境

   pnnx 需装在有 PyTorch 的 Python 环境里，先确认 Python 与 torch 可用。

2. 2安装 pnnx

   用 pip3 安装 pnnx，它是 PyTorch 模型转 ncnn 模型的官方工具。

   pip3 install pnnx

   复制

3. 3编写导出脚本

   把示例模型与 pnnx.export 调用保存为 export.py，输入尺寸为 1x3x224x224。

   import torch
   import torch.nn as nn
   import pnnx
   
   class Model(nn.Module):
       def __init__(self):
           super().__init__()
           self.conv = nn.Conv2d(3, 8, 1)
           self.relu = nn.ReLU()
           self.fc = nn.Linear(8, 4)
   
       def forward(self, x):
           x = self.conv(x)
           x = self.relu(x)
           x = x.mean((2, 3))
           return self.fc(x)
   
   model = Model().eval()
   
   x = torch.rand(1, 3, 224, 224)
   pnnx.export(model, "model.pt", (x,))

   复制

4. 4执行导出

   运行脚本完成转换，注意在脚本所在目录执行，产物会写到当前目录。

   python3 export.py

   复制

5. 5确认模型文件

   导出成功会生成 model.ncnn.param（结构）与 model.ncnn.bin（权重）两个文件。

   ls model.ncnn.param model.ncnn.bin

   复制

6. 6C++ 侧加载模型

   引入 net.h，用 load_param/load_model 载入两个文件，再建 Extractor 推理。

   #include "net.h"
   
   ncnn::Net net;
   net.load_param("model.ncnn.param");
   net.load_model("model.ncnn.bin");
   
   ncnn::Mat in(224, 224, 3);
   
   auto ex = net.create_extractor();
   ex.input("in0", in);
   
   ncnn::Mat out;
   ex.extract("out0", out);

   复制

7. 7Python 侧加载模型

   安装 ncnn 的 Python 绑定后，用 ncnn.Net 载入模型并抽出输出张量。

   import numpy as np
   import ncnn
   
   net = ncnn.Net()
   net.load_param("model.ncnn.param")
   net.load_model("model.ncnn.bin")
   
   x = np.zeros((3, 224, 224), np.float32)
   mat = ncnn.Mat(x)
   
   ex = net.create_extractor()
   ex.input("in0", mat)
   
   ret, out = ex.extract("out0")
   print(np.array(out).shape)

   复制

关键配置

如何确认成功

运行导出脚本后当前目录出现 model.ncnn.param 与 model.ncnn.bin；Python 示例能打印出输出张量形状即为成功。

常见问题

注意事项

• README 只给出 pnnx 安装与导出流程，ncnn 本体的编译安装需另查官方构建文档。
• pnnx 必须安装在含 PyTorch 的 Python 环境中，否则导出会失败。
• param 与 bin 文件必须同名配对加载，路径写错会导致加载失败。
• 建议在独立虚拟环境中安装依赖，避免与已有 PyTorch 版本冲突。