Python预测部署¶
文档说明了在python下基于OpenVINO的预测部署,部署前需要先将paddle模型转换为OpenVINO的Inference Engine,请参考模型转换。目前CPU硬件上支持PadlleX的分类、检测、分割模型;VPU上支持PaddleX的分类模型。
前置条件¶
- Python 3.6+
- OpenVINO 2021.1
说明:OpenVINO安装请参考OpenVINO
请确保系统已经安装好上述基本软件,下面所有示例以工作目录 /root/projects/
演示。
预测部署¶
运行/root/projects/PaddleX/deploy/openvino/python目录下demo.py文件可以进行预测,其命令参数说明如下:
参数 | 说明 |
---|---|
--model_dir | 模型转换生成的.xml文件路径,请保证模型转换生成的三个文件在同一路径下 |
--img | 要预测的图片文件路径 |
--image_list | 按行存储图片路径的.txt文件 |
--device | 运行的平台,可选项{"CPU","MYRIAD"} ,默认值为"CPU",VPU下上请使用"MYRIAD" |
--cfg_file | PaddleX model 的.yml配置文件 |
样例¶
样例一
:测试图片 /path/to/test_img.jpeg
cd /root/projects/python
python demo.py --model_dir /path/to/openvino_model --img /path/to/test_img.jpeg --cfg_file /path/to/PadlleX_model.yml
样例二`:
预测多个图片/path/to/image_list.txt
,image_list.txt内容的格式如下:
/path/to/images/test_img1.jpeg
/path/to/images/test_img2.jpeg
...
/path/to/images/test_imgn.jpeg
cd /root/projects/python
python demo.py --model_dir /path/to/models/openvino_model --image_list /root/projects/images_list.txt --cfg_file=/path/to/PadlleX_model.yml