C++代码接口说明¶
头文件¶
include/paddlex/paddlex.h
类 PaddleX::Model¶
模型类,用于加载PaddleX训练的模型。
模型加载¶
PaddleX::Model::Init(const std::string& model_dir,
bool use_gpu = false,
bool use_trt = false,
bool use_mkl = true,
bool mkl_thread_num = 4,
int gpu_id = 0,
std::string key = "",
bool use_ir_optim = true)
参数
- model_dir: 模型目录路径
- use_gpu: 是否使用gpu预测
- use_trt: 是否使用TensorRT
- use_mkl: 是否使用MKLDNN加速模型在CPU上的预测性能
- mkl_thread_num: 使用MKLDNN时,线程数量
- gpu_id: 使用gpu的id号
- key: 模型解密密钥,此参数用于加载加密的PaddleX模型时使用
- use_ir_optim: 是否加速模型后进行图优化
返回值
- 返回true或false,表示模型是否加载成功
模型预测推断¶
分类模型单张图片预测
PaddleX::Model::predict(const cv::Mat& im, ClsResult* result)
分类模型多张图片批预测
PaddleX::Model::predict(const std::vector<cv::Mat>& im_batch, std::vector<ClsResult>* results)
目标检测/实例分割模型单张图片预测
PaddleX::Model::predict(const cv::Mat& im, DetResult* result)
目标检测/实例分割模型多张图片批预测
PaddleX::Model::predict(const std::vector<cv::Mat>& im_batch, std::vector<DetResult>* results)
语义分割模型单张图片预测
PaddleX::Model::predict(const cv::Mat& im, SegResult* result)
语义分割模型多张图片批预测
PaddleX::Model::predict(const std::vector<cv::Mat>& im_batch, std::vector<SegResult>* results)
各接口返回值为true或false,用于表示是否预测成功
预测时,需传入cv::Mat结构体,结构需与如下示代码加载的结构体一致
cv::Mat im = cv::imread('test.jpg', 1);
当使用批预测时,注意会传入的vector中所有数据作为一个批次进行预测,因此vector越大,所需要使用的GPU显存会越高。
预测时,同时传入ClsResult/DetResult/SegResult结构体,用于存放模型的预测结果,各结构体说明如下
// 分类模型预测结果
class ClsResult {
public:
int category_id; // 类别id
std::string category; // 类别标签
float score; // 预测置信度
std::string type = "cls";
}
// 目标检测/实例分割模型预测结果
class DetResult {
public:
std::vector<Box> boxes; // 预测结果中的各个目标框
int mask_resolution;
std::string type = "det";
}
// 语义分割模型预测结果
class SegResult : public BaseResult {
public:
Mask<int64_t> label_map; // 预测分割中各像素的类别
Mask<float> score_map; // 预测分割中各像素的置信度
std::string type = "seg";
}
struct Box {
int category_id; // 类别id
std::string category; // 类别标签
float score; // 置信度
std::vector<float> coordinate; // 4个元素值,表示xmin, ymin, width, height
Mask<int> mask; // 实例分割中,用于表示Box内的分割结果
}
struct Mask {
std::vector<T> data; // 分割中的label map或score map
std::vector<int> shape; // 表示分割图的shape
}
预测结果可视化¶
目标检测/实例分割结果可视化¶
PaddleX::Visualize(const cv::Mat& img, // 原图
const DetResult& result, // 预测结果
const std::map<int, std::string>& labels // 各类别信息<id, label_name>
)
返回cv::Mat结构体,即为可视化后的结果
语义分割结果可视化¶
PaddleX::Visualize(const cv::Mat& img, // 原图
const SegResult& result, // 预测结果
const std::map<int, std::string>& labels // 各类别信息<id, label_name>
)
返回cv::Mat结构体,即为可视化后的结果