Intel® Distribution of OpenVINO™ Toolkit
Community assistance about the Intel® Distribution of OpenVINO™ toolkit, OpenCV, and all aspects of computer vision-related on Intel® platforms.
6574 Discusiones

do infernce on GPU cost 57ms but 30ms on CPU

liang__heng1
Principiante
‎11-13-2019 05:02 AM
608 Vistas

I have a model ,it  only cost 30ms on CPU, but 57ms on GPU.  the time cost is average value by 1000 times. 

how can I reduce execution time on GPU? 

0 kudos

Enlace copiado

2 Respuestas
liang__heng1
Principiante
‎11-13-2019 10:21 PM
608 Vistas

there are five  "Interp" layers in the model， is  this the main reson that doing inference on GPU device cost much more time?

0 kudos
Copiar enlace
liang__heng1
Principiante
‎11-15-2019 12:14 AM
608 Vistas

Does anyone know the reason？

0 kudos
Copiar enlace
Responder

La asistencia de la comunidad se proporciona de lunes a viernes. Existen otros métodos de contacto disponibles aquí.

Intel no verifica todas las soluciones, como las transferencias de archivos, entre otras, que puedan aparecer en esta comunidad. Por consiguiente, Intel renuncia a todas las garantías expresas e implícitas, incluidas, entre otras, las garantías implícitas de comerciabilidad, idoneidad para un propósito particular y cumplimiento, así como cualquier garantía derivada del transcurso de la ejecución, de la negociación o del uso en el comercio.

Para obtener información más completa sobre las optimizaciones del compilador, consulte nuestro Aviso de optimización.