<?xml version="1.0" encoding="UTF-8"?>
<rss xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:rdf="http://www.w3.org/1999/02/22-rdf-syntax-ns#" xmlns:taxo="http://purl.org/rss/1.0/modules/taxonomy/" version="2.0">
  <channel>
    <title>topic Need help on an elegant and fast way using MPI for a Parallel Matrix Problem in Intel® oneAPI Math Kernel Library</title>
    <link>https://community.intel.com/t5/Intel-oneAPI-Math-Kernel-Library/Need-help-on-an-elegant-and-fast-way-using-MPI-for-a-Parallel/m-p/914216#M12449</link>
    <description>&lt;P&gt;Hi, every body&lt;/P&gt;
&lt;P&gt;I should be very obliged if some one can help me on this: Suppose for simplicity that there is a parallel loop, and two matrices A &amp;amp; B, both having dimension m*n, and also we have P processors. Matrix A is distributed row-wise and B is distributed column-wise on P processors. Can you possibly give an elegant and fast way for doing the following pesudo-code using &lt;FONT color="#ff0000"&gt;MPI&lt;/FONT&gt; commands (like MPI_Gather &amp;amp; MPI_Type_struct &amp;amp;...) in &lt;FONT color="#ff0000"&gt;C&lt;/FONT&gt; language?&lt;/P&gt;
&lt;P&gt;&lt;STRONG&gt;&lt;FONT color="#ff0000"&gt;for k=1,...,KMAX&lt;/FONT&gt;&lt;/STRONG&gt; // parallel loop on all P processors&lt;/P&gt;
&lt;P&gt;// some parallel calculation on B to produce new results&lt;/P&gt;
&lt;P&gt;// dim A= dim B= m*n&lt;/P&gt;
&lt;P&gt;//A is distributed row-wise on P processors for example in local_A&lt;/P&gt;
&lt;P&gt;//B is distributed colum-wise on P processorsfor example in local_B&lt;/P&gt;
&lt;P&gt;&lt;STRONG&gt;&lt;FONT color="#ff0000"&gt;A=B&lt;/FONT&gt;&lt;/STRONG&gt; // ???? how to do thisfast in the parallel, using &lt;FONT color="#ff0000"&gt;MPI&lt;/FONT&gt;&lt;/P&gt;
&lt;P&gt;&lt;STRONG&gt;&lt;FONT color="#ff0000"&gt;end for&lt;/FONT&gt;&lt;/STRONG&gt;&lt;/P&gt;
&lt;P&gt;For an example suppose that P=3 (&lt;STRONG&gt;p0,p1,p2&lt;/STRONG&gt;) , m=n=4 and note that first row of A and first column of B is stored on p0,..... (see the following diagram). Please note that each process has stored diiferent amount of A &amp;amp; B and we want direct setting i.e. a(i,j)=b(i,j) (no transpose). The bottleneck is that we want to set A=B in a loop for many times and each process has stored diiferent amount of A &amp;amp; B.&lt;/P&gt;
&lt;P&gt;Thanks very much in advance&lt;/P&gt;
&lt;P&gt;Best regards,&lt;/P&gt;
&lt;P&gt;Ham. Sha.&lt;/P&gt;
&lt;P&gt;
&lt;TABLE style="WIDTH: 100%" cellspacing="1" cellpadding="1"&gt;

&lt;TBODY&gt;&lt;TR&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;Mat. A&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;
&lt;P&gt;&lt;STRONG&gt;set A=B in MPI&lt;/STRONG&gt;&lt;/P&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;Mat.B&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;&lt;/TR&gt;
&lt;TR&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;STRONG&gt;&lt;U&gt;&lt;FONT color="#0000ff"&gt;p0&lt;/FONT&gt;&lt;/U&gt;&lt;/STRONG&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;STRONG&gt;&lt;U&gt;&lt;FONT color="#008000"&gt;p1&lt;/FONT&gt;&lt;/U&gt;&lt;/STRONG&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;STRONG&gt;&lt;U&gt;&lt;FONT color="#ff0000"&gt;p2&lt;/FONT&gt;&lt;/U&gt;&lt;/STRONG&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;STRONG&gt;&lt;U&gt;&lt;FONT color="#ff0000"&gt;p2&lt;/FONT&gt;&lt;/U&gt;&lt;/STRONG&gt;&lt;/TD&gt;&lt;/TR&gt;
&lt;TR&gt;
&lt;TD&gt;&lt;STRONG&gt;&lt;U&gt;&lt;FONT style="BACKGROUND-COLOR: #ffffff" color="#0000ff"&gt;p0&lt;/FONT&gt;&lt;/U&gt;&lt;/STRONG&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT style="BACKGROUND-COLOR: #ffffff" color="#0000ff"&gt;a11&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT style="BACKGROUND-COLOR: #ffffff" color="#0000ff"&gt;a12&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT style="BACKGROUND-COLOR: #ffffff" color="#0000ff"&gt;a13&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT style="BACKGROUND-COLOR: #ffffff" color="#0000ff"&gt;a14&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#0000ff"&gt;b11&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#008000"&gt;b12&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;b13&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;b14&lt;/FONT&gt;&lt;/TD&gt;&lt;/TR&gt;
&lt;TR&gt;
&lt;TD&gt;&lt;STRONG&gt;&lt;U&gt;&lt;FONT color="#008000"&gt;p1&lt;/FONT&gt;&lt;/U&gt;&lt;/STRONG&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#008000"&gt;a21&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#008000"&gt;a22&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#008000"&gt;a23&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#008000"&gt;a24&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;
&lt;P&gt;&lt;STRONG&gt;&lt;FONT size="5"&gt;=&lt;/FONT&gt;&lt;/STRONG&gt;&lt;/P&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#0000ff"&gt;b21&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#008000"&gt;b22&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;b23&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;b24&lt;/FONT&gt;&lt;/TD&gt;&lt;/TR&gt;
&lt;TR&gt;
&lt;TD&gt;&lt;STRONG&gt;&lt;U&gt;&lt;FONT color="#ff0000"&gt;p2&lt;/FONT&gt;&lt;/U&gt;&lt;/STRONG&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;a3
1&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;a32&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;a33&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;a34&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#0000ff"&gt;b31&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#008000"&gt;b32&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;b33&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;b34&lt;/FONT&gt;&lt;/TD&gt;&lt;/TR&gt;
&lt;TR&gt;
&lt;TD&gt;&lt;STRONG&gt;&lt;U&gt;&lt;FONT color="#ff0000"&gt;p2&lt;/FONT&gt;&lt;/U&gt;&lt;/STRONG&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;a41&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;a42&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;a43&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;a44&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#0000ff"&gt;b41&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#008000"&gt;b42&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;b43&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;b44&lt;/FONT&gt;&lt;/TD&gt;&lt;/TR&gt;&lt;/TBODY&gt;&lt;/TABLE&gt;&lt;/P&gt;</description>
    <pubDate>Thu, 10 Aug 2006 16:34:55 GMT</pubDate>
    <dc:creator>hamsha_ir</dc:creator>
    <dc:date>2006-08-10T16:34:55Z</dc:date>
    <item>
      <title>Need help on an elegant and fast way using MPI for a Parallel Matrix Problem</title>
      <link>https://community.intel.com/t5/Intel-oneAPI-Math-Kernel-Library/Need-help-on-an-elegant-and-fast-way-using-MPI-for-a-Parallel/m-p/914216#M12449</link>
      <description>&lt;P&gt;Hi, every body&lt;/P&gt;
&lt;P&gt;I should be very obliged if some one can help me on this: Suppose for simplicity that there is a parallel loop, and two matrices A &amp;amp; B, both having dimension m*n, and also we have P processors. Matrix A is distributed row-wise and B is distributed column-wise on P processors. Can you possibly give an elegant and fast way for doing the following pesudo-code using &lt;FONT color="#ff0000"&gt;MPI&lt;/FONT&gt; commands (like MPI_Gather &amp;amp; MPI_Type_struct &amp;amp;...) in &lt;FONT color="#ff0000"&gt;C&lt;/FONT&gt; language?&lt;/P&gt;
&lt;P&gt;&lt;STRONG&gt;&lt;FONT color="#ff0000"&gt;for k=1,...,KMAX&lt;/FONT&gt;&lt;/STRONG&gt; // parallel loop on all P processors&lt;/P&gt;
&lt;P&gt;// some parallel calculation on B to produce new results&lt;/P&gt;
&lt;P&gt;// dim A= dim B= m*n&lt;/P&gt;
&lt;P&gt;//A is distributed row-wise on P processors for example in local_A&lt;/P&gt;
&lt;P&gt;//B is distributed colum-wise on P processorsfor example in local_B&lt;/P&gt;
&lt;P&gt;&lt;STRONG&gt;&lt;FONT color="#ff0000"&gt;A=B&lt;/FONT&gt;&lt;/STRONG&gt; // ???? how to do thisfast in the parallel, using &lt;FONT color="#ff0000"&gt;MPI&lt;/FONT&gt;&lt;/P&gt;
&lt;P&gt;&lt;STRONG&gt;&lt;FONT color="#ff0000"&gt;end for&lt;/FONT&gt;&lt;/STRONG&gt;&lt;/P&gt;
&lt;P&gt;For an example suppose that P=3 (&lt;STRONG&gt;p0,p1,p2&lt;/STRONG&gt;) , m=n=4 and note that first row of A and first column of B is stored on p0,..... (see the following diagram). Please note that each process has stored diiferent amount of A &amp;amp; B and we want direct setting i.e. a(i,j)=b(i,j) (no transpose). The bottleneck is that we want to set A=B in a loop for many times and each process has stored diiferent amount of A &amp;amp; B.&lt;/P&gt;
&lt;P&gt;Thanks very much in advance&lt;/P&gt;
&lt;P&gt;Best regards,&lt;/P&gt;
&lt;P&gt;Ham. Sha.&lt;/P&gt;
&lt;P&gt;
&lt;TABLE style="WIDTH: 100%" cellspacing="1" cellpadding="1"&gt;

&lt;TBODY&gt;&lt;TR&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;Mat. A&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;
&lt;P&gt;&lt;STRONG&gt;set A=B in MPI&lt;/STRONG&gt;&lt;/P&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;Mat.B&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;&lt;/TR&gt;
&lt;TR&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;STRONG&gt;&lt;U&gt;&lt;FONT color="#0000ff"&gt;p0&lt;/FONT&gt;&lt;/U&gt;&lt;/STRONG&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;STRONG&gt;&lt;U&gt;&lt;FONT color="#008000"&gt;p1&lt;/FONT&gt;&lt;/U&gt;&lt;/STRONG&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;STRONG&gt;&lt;U&gt;&lt;FONT color="#ff0000"&gt;p2&lt;/FONT&gt;&lt;/U&gt;&lt;/STRONG&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;STRONG&gt;&lt;U&gt;&lt;FONT color="#ff0000"&gt;p2&lt;/FONT&gt;&lt;/U&gt;&lt;/STRONG&gt;&lt;/TD&gt;&lt;/TR&gt;
&lt;TR&gt;
&lt;TD&gt;&lt;STRONG&gt;&lt;U&gt;&lt;FONT style="BACKGROUND-COLOR: #ffffff" color="#0000ff"&gt;p0&lt;/FONT&gt;&lt;/U&gt;&lt;/STRONG&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT style="BACKGROUND-COLOR: #ffffff" color="#0000ff"&gt;a11&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT style="BACKGROUND-COLOR: #ffffff" color="#0000ff"&gt;a12&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT style="BACKGROUND-COLOR: #ffffff" color="#0000ff"&gt;a13&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT style="BACKGROUND-COLOR: #ffffff" color="#0000ff"&gt;a14&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#0000ff"&gt;b11&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#008000"&gt;b12&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;b13&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;b14&lt;/FONT&gt;&lt;/TD&gt;&lt;/TR&gt;
&lt;TR&gt;
&lt;TD&gt;&lt;STRONG&gt;&lt;U&gt;&lt;FONT color="#008000"&gt;p1&lt;/FONT&gt;&lt;/U&gt;&lt;/STRONG&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#008000"&gt;a21&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#008000"&gt;a22&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#008000"&gt;a23&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#008000"&gt;a24&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;
&lt;P&gt;&lt;STRONG&gt;&lt;FONT size="5"&gt;=&lt;/FONT&gt;&lt;/STRONG&gt;&lt;/P&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#0000ff"&gt;b21&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#008000"&gt;b22&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;b23&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;b24&lt;/FONT&gt;&lt;/TD&gt;&lt;/TR&gt;
&lt;TR&gt;
&lt;TD&gt;&lt;STRONG&gt;&lt;U&gt;&lt;FONT color="#ff0000"&gt;p2&lt;/FONT&gt;&lt;/U&gt;&lt;/STRONG&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;a3
1&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;a32&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;a33&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;a34&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#0000ff"&gt;b31&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#008000"&gt;b32&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;b33&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;b34&lt;/FONT&gt;&lt;/TD&gt;&lt;/TR&gt;
&lt;TR&gt;
&lt;TD&gt;&lt;STRONG&gt;&lt;U&gt;&lt;FONT color="#ff0000"&gt;p2&lt;/FONT&gt;&lt;/U&gt;&lt;/STRONG&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;a41&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;a42&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;a43&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;a44&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#0000ff"&gt;b41&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#008000"&gt;b42&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;b43&lt;/FONT&gt;&lt;/TD&gt;
&lt;TD&gt;&lt;FONT color="#ff0000"&gt;b44&lt;/FONT&gt;&lt;/TD&gt;&lt;/TR&gt;&lt;/TBODY&gt;&lt;/TABLE&gt;&lt;/P&gt;</description>
      <pubDate>Thu, 10 Aug 2006 16:34:55 GMT</pubDate>
      <guid>https://community.intel.com/t5/Intel-oneAPI-Math-Kernel-Library/Need-help-on-an-elegant-and-fast-way-using-MPI-for-a-Parallel/m-p/914216#M12449</guid>
      <dc:creator>hamsha_ir</dc:creator>
      <dc:date>2006-08-10T16:34:55Z</dc:date>
    </item>
  </channel>
</rss>

