OpenVINO系列14丨human-pose-estimation在不同硬件设备上基准测试的性能差异

测试平台

  • 测试系统:ubuntu 18.04LTS
  • cpu型号:i5-6350HQ
  • 核显型号:GT4e
  • HDDL设备:4个VPU

一、在CPU上的测试

1.使用FP32数据格式进行测试

CPU-FP32

2.使用INT8数据格式进行测试

CPU-INT8

二、在GPU上的测试

1.使用FP16数据格式进行测试

GPU-FP16

三、在HDDL上的测试

1.使用FP32数据格式进行测试

hddl_01 hddl_02

结论

通过测试发现,human-pose-estimation在不同设备上运行的时候,CPU在int8的数据格式下吞吐量为23.64fps,FP32下的吞吐量为16.53fps,说明CPU在int8表现更优。

GPU在FP16的数据格式下吞吐量为60.83fps,要比CPU好不少。

HDDL在FP32的数据格式下吞吐量为40.19fps,介于两者之间。


转载请注明:康瑶明的博客