部署模型导出

注：所有涉及到模型部署，均需要参考本文档，进行部署模型导出

在服务端部署模型时需要将训练过程中保存的模型导出为inference格式模型，导出的inference格式模型包括__model__、__params__和model.yml三个文件，分别表示模型的网络结构、模型权重和模型的配置文件（包括数据预处理参数等）。

检查你的模型文件夹，如果里面是model.pdparams， model.pdmodel和model.yml3个文件时，那么就需要按照下面流程进行模型导出

在安装完PaddleX后，在命令行终端使用如下命令将模型导出。可直接下载小度熊分拣模型来测试本文档的流程xiaoduxiong_epoch_12.tar.gz。

paddlex --export_inference --model_dir=./xiaoduxiong_epoch_12 --save_dir=./inference_model

参数	说明
--export_inference	是否将模型导出为用于部署的inference格式，指定即为True
--model_dir	待导出的模型路径
--save_dir	导出的模型存储路径
--fixed_input_shape	固定导出模型的输入大小，默认值为None

使用TensorRT预测时，需固定模型的输入大小，通过--fixed_input_shape 来制定输入大小[w,h]。

注意：

• 分类模型的固定输入大小请保持与训练时的输入大小一致；
• 检测模型模型中YOLO系列请保存w与h一致，且为32的倍数大小；RCNN类无此限制，按需设定即可
• 指定[w,h]时，w和h中间逗号隔开，不允许存在空格等其他字符。
• 需要注意的，w,h设得越大，模型在预测过程中所需要的耗时和内存/显存占用越高；设得太小，会影响模型精度

paddlex --export_inference --model_dir=./xiaoduxiong_epoch_12 --save_dir=./inference_model --fixed_input_shape=[640,960]