Paddle-Lite模型转换

将PaddleX模型转换为Paddle-Lite的nb模型,模型转换主要包括PaddleX转inference model和inference model转Paddle-Lite nb模型

Step1:导出inference模型

PaddleX模型转Paddle-Lite模型之前需要先把PaddleX模型导出为inference格式模型,导出的模型将包括__model__、__params__和model.yml三个文件名。具体方法请参考Inference模型导出

Step2:导出Paddle-Lite模型

Paddle-Lite模型需要通过Paddle-Lite的opt工具转出模型

在Linux系统下运行:

./opt --model_file=<model_path> \
      --param_file=<param_path> \
      --valid_targets=arm \
      --optimize_out_type=naive_buffer \
      --optimize_out=model_output_name

| 参数 | 说明 | | —- | —- | | –model_file | 导出inference模型中包含的网络结构文件:__model__所在的路径| | –param_file | 导出inference模型中包含的参数文件:__params__所在的路径| | –valid_targets |指定模型可执行的backend,这里请指定为arm| | –optimize_out_type | 输出模型类型,目前支持两种类型:protobuf和naive_buffer,其中naive_buffer是一种更轻量级的序列化/反序列化,这里请指定为naive_buffer|

若安装了python版本的Paddle-Lite也可以通过如下方式转换

./paddle_lite_opt --model_file=<model_path> \
      --param_file=<param_path> \
      --valid_targets=arm \
      --optimize_out_type=naive_buffer \
      --optimize_out=model_output_name

更多详细的使用方法和参数含义请参考: 使用opt转化模型,更多opt预编译版本请参考Paddle-Lite Release Note

注意:opt版本需要跟预测库版本保持一致,比如若使用2.6.0版本预测库,请从上面Release Note中下载2.6.0版本的opt转换模型