OpenVINO2022版本Python API演示

OpenVINO2022版本Python API演示

导入支持

要使用Python SDK，首先需要导入支持语句，

加载模型

修改模型输入

Model的reshape方法支持把模型输入修改，同时会修改整个模型的下行转发推理，当前支持的修改参数包括batch size、输入图像的宽高、假设模型的原始输入为：

1x3x224x224

修改为：

8x3x448x448

只需要调用reshape方法，一行代码即可完成：

model.reshape([8, 3, 448, 448])

前后对比示意图如下：

上述是从一种静态输入各种，设置为另外一种静态输入格式。OpenVINO的reshape还支持动态输入(不定长)的推理输入设置，假设把模型的输入格式从：

[?x3x640x640]

修改为:

[4x3x640x?]

其中 ？表示不定长，可以用如下代码：

其中

-1

表示不定长！

注意：

修改输入/动态输入在iGPU上暂时还无法被支持，所以AUTO模式下修改以后可能会遇到推理失败的情况！这块建议参考官方文档说明。

模型推理

方法一：

results = compiled_model(input_data)

方法二：

infer_request = compiled_model.create_infer_request()

infer_request.infer()

输入图像：

一个trick的地方，当你修改为动态输入的时候有时候会遇到这个错误：

ValueError: get_shape was called on a descriptor::Tensor with dynamic shape

版权声明：本文内容由网络用户投稿，版权归原作者所有，本站不拥有其著作权，亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容，请联系我们jiasou666@gmail.com 处理，核实后本网站将在24小时内删除侵权内容。