host: 192.168.50.161 host: 192.168.50.164 ================================================================================================== mpiexec options: ---------------- Base path: /home/apps/intel/2016/impi/5.1.2.150/mic/bin// Launcher: ssh Debug level: 1 Enable X: -1 Global environment: ------------------- I_MPI_PERHOST=allcores LD_LIBRARY_PATH=/home/apps/intel/2016/lib/mic/:/home/apps/intel/2016/impi/5.1.2.150/mic/lib/:/home/apps/intel/15.0.1/tbb/lib/intel64/gcc4.4/:/home/apps/intel/15.0.1/composer_xe_2015.0.090/compiler/lib/intel64/:/home/apps/intel/15.0.1/mkl/lib/intel64:/home/apps/intel/15.0.1/lib/intel64:/home/apps/intel/2016/compilers_and_libraries_2016.1.150/linux/mpi/mic/lib:/home/apps/intel/2016/compilers_and_libraries_2016.1.150/linux/mpi/intel64/lib SLURM_CHECKPOINT_IMAGE_DIR=/var/slurm/checkpoint SLURM_NODELIST=cnf001-mic0,cnf002-mic0 MKLROOT=/home/apps/intel/15.0.1/mkl SLURM_JOB_NAME=multinode-MIC XDG_SESSION_ID=13238 SLURMD_NODENAME=cnf001-mic0 SLURM_TOPOLOGY_ADDR=cnf001-mic0 HOSTNAME=cnf001-mic0 SLURM_PRIO_PROCESS=0 SLURM_NODE_ALIASES=(null) INTEL_LICENSE_FILE=/home/apps/intel/15.0.1/licenses SHELL=/bin/bash TERM=xterm-256color I_MPI_FABRICS=tcp SLURM_JOB_QOS=120 HISTSIZE=1000 EGS_HOME=/home/edoerner/EGSnrc/egs_home/ TMPDIR=/tmp SLURM_TOPOLOGY_ADDR_PATTERN=node SSH_CLIENT=186.105.254.242 55372 22 QTDIR=/usr/lib64/qt-3.3 QTINC=/usr/lib64/qt-3.3/include SSH_TTY=/dev/pts/2 SLURM_MEM_PER_CPU=30 QT_GRAPHICSSYSTEM_CHECKED=1 SLURM_NNODES=2 USER=edoerner LS_COLORS=rs=0:di=38;5;27:ln=38;5;51:mh=44;38;5;15:pi=40;38;5;11:so=38;5;13:do=38;5;5:bd=48;5;232;38;5;11:cd=48;5;232;38;5;3:or=48;5;232;38;5;9:mi=05;48;5;232;38;5;15:su=48;5;196;38;5;15:sg=48;5;11;38;5;16:ca=48;5;196;38;5;226:tw=48;5;10;38;5;16:ow=48;5;10;38;5;21:st=48;5;21;38;5;15:ex=38;5;34:*.tar=38;5;9:*.tgz=38;5;9:*.arc=38;5;9:*.arj=38;5;9:*.taz=38;5;9:*.lha=38;5;9:*.lz4=38;5;9:*.lzh=38;5;9:*.lzma=38;5;9:*.tlz=38;5;9:*.txz=38;5;9:*.tzo=38;5;9:*.t7z=38;5;9:*.zip=38;5;9:*.z=38;5;9:*.Z=38;5;9:*.dz=38;5;9:*.gz=38;5;9:*.lrz=38;5;9:*.lz=38;5;9:*.lzo=38;5;9:*.xz=38;5;9:*.bz2=38;5;9:*.bz=38;5;9:*.tbz=38;5;9:*.tbz2=38;5;9:*.tz=38;5;9:*.deb=38;5;9:*.rpm=38;5;9:*.jar=38;5;9:*.war=38;5;9:*.ear=38;5;9:*.sar=38;5;9:*.rar=38;5;9:*.alz=38;5;9:*.ace=38;5;9:*.zoo=38;5;9:*.cpio=38;5;9:*.7z=38;5;9:*.rz=38;5;9:*.cab=38;5;9:*.jpg=38;5;13:*.jpeg=38;5;13:*.gif=38;5;13:*.bmp=38;5;13:*.pbm=38;5;13:*.pgm=38;5;13:*.ppm=38;5;13:*.tga=38;5;13:*.xbm=38;5;13:*.xpm=38;5;13:*.tif=38;5;13:*.tiff=38;5;13:*.png=38;5;13:*.svg=38;5;13:*.svgz=38;5;13:*.mng=38;5;13:*.pcx=38;5;13:*.mov=38;5;13:*.mpg=38;5;13:*.mpeg=38;5;13:*.m2v=38;5;13:*.mkv=38;5;13:*.webm=38;5;13:*.ogm=38;5;13:*.mp4=38;5;13:*.m4v=38;5;13:*.mp4v=38;5;13:*.vob=38;5;13:*.qt=38;5;13:*.nuv=38;5;13:*.wmv=38;5;13:*.asf=38;5;13:*.rm=38;5;13:*.rmvb=38;5;13:*.flc=38;5;13:*.avi=38;5;13:*.fli=38;5;13:*.flv=38;5;13:*.gl=38;5;13:*.dl=38;5;13:*.xcf=38;5;13:*.xwd=38;5;13:*.yuv=38;5;13:*.cgm=38;5;13:*.emf=38;5;13:*.axv=38;5;13:*.anx=38;5;13:*.ogv=38;5;13:*.ogx=38;5;13:*.aac=38;5;45:*.au=38;5;45:*.flac=38;5;45:*.mid=38;5;45:*.midi=38;5;45:*.mka=38;5;45:*.mp3=38;5;45:*.mpc=38;5;45:*.ogg=38;5;45:*.ra=38;5;45:*.wav=38;5;45:*.axa=38;5;45:*.oga=38;5;45:*.spx=38;5;45:*.xspf=38;5;45: INTEL_HOME=/home/apps/intel/15.0.1 SLURM_JOBID=3135097 SLURM_TASKS_PER_NODE=1(x2) PATH=/home/apps/intel/2016/impi/5.1.2.150/mic/bin/:/home/edoerner/EGSnrc/egs_home/bin/linux:/home/edoerner/EGSnrc/HEN_HOUSE/bin/linux:/home/apps/intel/15.0.1/composer_xe_2015.5.223/bin/intel64/:/home/apps/intel/15.0.1/bin:/usr/lib64/qt-3.3/bin:/usr/local/bin:/usr/bin:/usr/local/sbin:/usr/sbin:/opt/ibutils/bin:/home/edoerner/bin MAIL=/var/spool/mail/edoerner SLURM_JOB_ID=3135097 HEN_HOUSE=/home/edoerner/EGSnrc/HEN_HOUSE/ SLURM_JOB_USER=edoerner PWD=/home/edoerner _LMFILES_=/usr/share/Modules/modulefiles/intel/15.0.1 LANG=en_US.UTF-8 MODULEPATH=/usr/share/Modules/modulefiles:/etc/modulefiles:/opt/mellanox/bupc/2.20.2/modules SLURM_JOB_UID=1190 LOADEDMODULES=intel/15.0.1 SLURM_NODEID=0 SLURM_SUBMIT_DIR=/home/edoerner SLURM_TASK_PID=88591 SLURM_CPUS_ON_NODE=1 SLURM_PROCID=0 ENVIRONMENT=BATCH HISTCONTROL=ignoredups SLURM_JOB_NODELIST=cnf001-mic0,cnf002-mic0 HOME=/home/edoerner SHLVL=2 SLURM_LOCALID=0 MIC_SYSROOT=/opt/mpss/3.4.2/sysroots I_MPI_DEBUG=100 SLURM_JOB_CPUS_PER_NODE=1(x2) SLURM_CLUSTER_NAME=leftraru SLURM_GTIDS=0 SLURM_SUBMIT_HOST=leftraru2 SLURM_JOB_PARTITION=mics LOGNAME=edoerner QTLIB=/usr/lib64/qt-3.3/lib SLURM_JOB_ACCOUNT=puc SSH_CONNECTION=186.105.254.242 55372 146.83.2.104 22 SLURM_JOB_NUM_NODES=2 MODULESHOME=/usr/share/Modules LESSOPEN=||/usr/bin/lesspipe.sh %s OMEGA_HOME=/home/edoerner/EGSnrc/HEN_HOUSE/omega XDG_RUNTIME_DIR=/run/user/1190 BASH_FUNC_module()=() { eval `/usr/bin/modulecmd bash $*` } EGS_CONFIG=/home/edoerner/EGSnrc/HEN_HOUSE/specs/linux.conf _=/home/apps/intel/2016/impi/5.1.2.150/mic/bin/mpiexec.hydra Hydra internal environment: --------------------------- MPIR_CVAR_NEMESIS_ENABLE_CKPOINT=1 GFORTRAN_UNBUFFERED_PRECONNECTED=y I_MPI_HYDRA_UUID=105a0100-b8e5-3118-492e-050032a1c0a8 DAPL_NETWORK_PROCESS_NUM=2 Proxy information: ********************* [1] proxy: 192.168.50.161 (1 cores) Exec list: IMB-MPI1 (1 processes); [2] proxy: 192.168.50.164 (1 cores) Exec list: IMB-MPI1 (1 processes); ================================================================================================== [mpiexec@cnf001-mic0] Timeout set to -1 (-1 means infinite) [mpiexec@cnf001-mic0] Got a control port string of 192.168.50.161:42829 Proxy launch args: /home/apps/intel/2016/impi/5.1.2.150/mic/bin//pmi_proxy --control-port 192.168.50.161:42829 --debug --pmi-connect lazy-cache --pmi-aggregate -s 0 --rmk user --launcher ssh --demux poll --pgid 0 --enable-stdin 1 --retries 10 --control-code 42404355 --usize -2 --proxy-id Arguments being passed to proxy 0: --version 3.1.2 --iface-ip-env-name MPIR_CVAR_CH3_INTERFACE_HOSTNAME --hostname 192.168.50.161 --global-core-map 0,1,2 --pmi-id-map 0,0 --global-process-count 2 --auto-cleanup 1 --pmi-kvsname kvs_88592_0 --pmi-process-mapping (vector,(0,2,1)) --topolib ipl --ckpointlib blcr --ckpoint-prefix /tmp --ckpoint-preserve 1 --ckpoint off --ckpoint-num -1 --global-inherited-env 74 'I_MPI_PERHOST=allcores' 'LD_LIBRARY_PATH=/home/apps/intel/2016/lib/mic/:/home/apps/intel/2016/impi/5.1.2.150/mic/lib/:/home/apps/intel/15.0.1/tbb/lib/intel64/gcc4.4/:/home/apps/intel/15.0.1/composer_xe_2015.0.090/compiler/lib/intel64/:/home/apps/intel/15.0.1/mkl/lib/intel64:/home/apps/intel/15.0.1/lib/intel64:/home/apps/intel/2016/compilers_and_libraries_2016.1.150/linux/mpi/mic/lib:/home/apps/intel/2016/compilers_and_libraries_2016.1.150/linux/mpi/intel64/lib' 'SLURM_CHECKPOINT_IMAGE_DIR=/var/slurm/checkpoint' 'SLURM_NODELIST=cnf001-mic0,cnf002-mic0' 'MKLROOT=/home/apps/intel/15.0.1/mkl' 'SLURM_JOB_NAME=multinode-MIC' 'XDG_SESSION_ID=13238' 'SLURMD_NODENAME=cnf001-mic0' 'SLURM_TOPOLOGY_ADDR=cnf001-mic0' 'HOSTNAME=cnf001-mic0' 'SLURM_PRIO_PROCESS=0' 'SLURM_NODE_ALIASES=(null)' 'INTEL_LICENSE_FILE=/home/apps/intel/15.0.1/licenses' 'SHELL=/bin/bash' 'TERM=xterm-256color' 'I_MPI_FABRICS=tcp' 'SLURM_JOB_QOS=120' 'HISTSIZE=1000' 'EGS_HOME=/home/edoerner/EGSnrc/egs_home/' 'TMPDIR=/tmp' 'SLURM_TOPOLOGY_ADDR_PATTERN=node' 'SSH_CLIENT=186.105.254.242 55372 22' 'QTDIR=/usr/lib64/qt-3.3' 'QTINC=/usr/lib64/qt-3.3/include' 'SSH_TTY=/dev/pts/2' 'SLURM_MEM_PER_CPU=30' 'QT_GRAPHICSSYSTEM_CHECKED=1' 'SLURM_NNODES=2' 'USER=edoerner' 'LS_COLORS=rs=0:di=38;5;27:ln=38;5;51:mh=44;38;5;15:pi=40;38;5;11:so=38;5;13:do=38;5;5:bd=48;5;232;38;5;11:cd=48;5;232;38;5;3:or=48;5;232;38;5;9:mi=05;48;5;232;38;5;15:su=48;5;196;38;5;15:sg=48;5;11;38;5;16:ca=48;5;196;38;5;226:tw=48;5;10;38;5;16:ow=48;5;10;38;5;21:st=48;5;21;38;5;15:ex=38;5;34:*.tar=38;5;9:*.tgz=38;5;9:*.arc=38;5;9:*.arj=38;5;9:*.taz=38;5;9:*.lha=38;5;9:*.lz4=38;5;9:*.lzh=38;5;9:*.lzma=38;5;9:*.tlz=38;5;9:*.txz=38;5;9:*.tzo=38;5;9:*.t7z=38;5;9:*.zip=38;5;9:*.z=38;5;9:*.Z=38;5;9:*.dz=38;5;9:*.gz=38;5;9:*.lrz=38;5;9:*.lz=38;5;9:*.lzo=38;5;9:*.xz=38;5;9:*.bz2=38;5;9:*.bz=38;5;9:*.tbz=38;5;9:*.tbz2=38;5;9:*.tz=38;5;9:*.deb=38;5;9:*.rpm=38;5;9:*.jar=38;5;9:*.war=38;5;9:*.ear=38;5;9:*.sar=38;5;9:*.rar=38;5;9:*.alz=38;5;9:*.ace=38;5;9:*.zoo=38;5;9:*.cpio=38;5;9:*.7z=38;5;9:*.rz=38;5;9:*.cab=38;5;9:*.jpg=38;5;13:*.jpeg=38;5;13:*.gif=38;5;13:*.bmp=38;5;13:*.pbm=38;5;13:*.pgm=38;5;13:*.ppm=38;5;13:*.tga=38;5;13:*.xbm=38;5;13:*.xpm=38;5;13:*.tif=38;5;13:*.tiff=38;5;13:*.png=38;5;13:*.svg=38;5;13:*.svgz=38;5;13:*.mng=38;5;13:*.pcx=38;5;13:*.mov=38;5;13:*.mpg=38;5;13:*.mpeg=38;5;13:*.m2v=38;5;13:*.mkv=38;5;13:*.webm=38;5;13:*.ogm=38;5;13:*.mp4=38;5;13:*.m4v=38;5;13:*.mp4v=38;5;13:*.vob=38;5;13:*.qt=38;5;13:*.nuv=38;5;13:*.wmv=38;5;13:*.asf=38;5;13:*.rm=38;5;13:*.rmvb=38;5;13:*.flc=38;5;13:*.avi=38;5;13:*.fli=38;5;13:*.flv=38;5;13:*.gl=38;5;13:*.dl=38;5;13:*.xcf=38;5;13:*.xwd=38;5;13:*.yuv=38;5;13:*.cgm=38;5;13:*.emf=38;5;13:*.axv=38;5;13:*.anx=38;5;13:*.ogv=38;5;13:*.ogx=38;5;13:*.aac=38;5;45:*.au=38;5;45:*.flac=38;5;45:*.mid=38;5;45:*.midi=38;5;45:*.mka=38;5;45:*.mp3=38;5;45:*.mpc=38;5;45:*.ogg=38;5;45:*.ra=38;5;45:*.wav=38;5;45:*.axa=38;5;45:*.oga=38;5;45:*.spx=38;5;45:*.xspf=38;5;45:' 'INTEL_HOME=/home/apps/intel/15.0.1' 'SLURM_JOBID=3135097' 'SLURM_TASKS_PER_NODE=1(x2)' 'PATH=/home/apps/intel/2016/impi/5.1.2.150/mic/bin/:/home/edoerner/EGSnrc/egs_home/bin/linux:/home/edoerner/EGSnrc/HEN_HOUSE/bin/linux:/home/apps/intel/15.0.1/composer_xe_2015.5.223/bin/intel64/:/home/apps/intel/15.0.1/bin:/usr/lib64/qt-3.3/bin:/usr/local/bin:/usr/bin:/usr/local/sbin:/usr/sbin:/opt/ibutils/bin:/home/edoerner/bin' 'MAIL=/var/spool/mail/edoerner' 'SLURM_JOB_ID=3135097' 'HEN_HOUSE=/home/edoerner/EGSnrc/HEN_HOUSE/' 'SLURM_JOB_USER=edoerner' 'PWD=/home/edoerner' '_LMFILES_=/usr/share/Modules/modulefiles/intel/15.0.1' 'LANG=en_US.UTF-8' 'MODULEPATH=/usr/share/Modules/modulefiles:/etc/modulefiles:/opt/mellanox/bupc/2.20.2/modules' 'SLURM_JOB_UID=1190' 'LOADEDMODULES=intel/15.0.1' 'SLURM_NODEID=0' 'SLURM_SUBMIT_DIR=/home/edoerner' 'SLURM_TASK_PID=88591' 'SLURM_CPUS_ON_NODE=1' 'SLURM_PROCID=0' 'ENVIRONMENT=BATCH' 'HISTCONTROL=ignoredups' 'SLURM_JOB_NODELIST=cnf001-mic0,cnf002-mic0' 'HOME=/home/edoerner' 'SHLVL=2' 'SLURM_LOCALID=0' 'MIC_SYSROOT=/opt/mpss/3.4.2/sysroots' 'I_MPI_DEBUG=100' 'SLURM_JOB_CPUS_PER_NODE=1(x2)' 'SLURM_CLUSTER_NAME=leftraru' 'SLURM_GTIDS=0' 'SLURM_SUBMIT_HOST=leftraru2' 'SLURM_JOB_PARTITION=mics' 'LOGNAME=edoerner' 'QTLIB=/usr/lib64/qt-3.3/lib' 'SLURM_JOB_ACCOUNT=puc' 'SSH_CONNECTION=186.105.254.242 55372 146.83.2.104 22' 'SLURM_JOB_NUM_NODES=2' 'MODULESHOME=/usr/share/Modules' 'LESSOPEN=||/usr/bin/lesspipe.sh %s' 'OMEGA_HOME=/home/edoerner/EGSnrc/HEN_HOUSE/omega' 'XDG_RUNTIME_DIR=/run/user/1190' 'BASH_FUNC_module()=() { eval `/usr/bin/modulecmd bash $*` }' 'EGS_CONFIG=/home/edoerner/EGSnrc/HEN_HOUSE/specs/linux.conf' '_=/home/apps/intel/2016/impi/5.1.2.150/mic/bin/mpiexec.hydra' --global-user-env 0 --global-system-env 4 'MPIR_CVAR_NEMESIS_ENABLE_CKPOINT=1' 'GFORTRAN_UNBUFFERED_PRECONNECTED=y' 'I_MPI_HYDRA_UUID=105a0100-b8e5-3118-492e-050032a1c0a8' 'DAPL_NETWORK_PROCESS_NUM=2' --proxy-core-count 1 --mpi-cmd-env mpiexec.hydra -v -localhost 192.168.50.161 -ppn 1 -n 2 -hosts 192.168.50.161,192.168.50.164 IMB-MPI1 pingpong -msglog 0:1 --exec --exec-appnum 0 --exec-proc-count 1 --exec-local-env 0 --exec-wdir /home/edoerner --exec-args 4 IMB-MPI1 pingpong -msglog 0:1 Arguments being passed to proxy 1: --version 3.1.2 --iface-ip-env-name MPIR_CVAR_CH3_INTERFACE_HOSTNAME --hostname 192.168.50.164 --global-core-map 0,1,2 --pmi-id-map 0,1 --global-process-count 2 --auto-cleanup 1 --pmi-kvsname kvs_88592_0 --pmi-process-mapping (vector,(0,2,1)) --topolib ipl --ckpointlib blcr --ckpoint-prefix /tmp --ckpoint-preserve 1 --ckpoint off --ckpoint-num -1 --global-inherited-env 74 'I_MPI_PERHOST=allcores' 'LD_LIBRARY_PATH=/home/apps/intel/2016/lib/mic/:/home/apps/intel/2016/impi/5.1.2.150/mic/lib/:/home/apps/intel/15.0.1/tbb/lib/intel64/gcc4.4/:/home/apps/intel/15.0.1/composer_xe_2015.0.090/compiler/lib/intel64/:/home/apps/intel/15.0.1/mkl/lib/intel64:/home/apps/intel/15.0.1/lib/intel64:/home/apps/intel/2016/compilers_and_libraries_2016.1.150/linux/mpi/mic/lib:/home/apps/intel/2016/compilers_and_libraries_2016.1.150/linux/mpi/intel64/lib' 'SLURM_CHECKPOINT_IMAGE_DIR=/var/slurm/checkpoint' 'SLURM_NODELIST=cnf001-mic0,cnf002-mic0' 'MKLROOT=/home/apps/intel/15.0.1/mkl' 'SLURM_JOB_NAME=multinode-MIC' 'XDG_SESSION_ID=13238' 'SLURMD_NODENAME=cnf001-mic0' 'SLURM_TOPOLOGY_ADDR=cnf001-mic0' 'HOSTNAME=cnf001-mic0' 'SLURM_PRIO_PROCESS=0' 'SLURM_NODE_ALIASES=(null)' 'INTEL_LICENSE_FILE=/home/apps/intel/15.0.1/licenses' 'SHELL=/bin/bash' 'TERM=xterm-256color' 'I_MPI_FABRICS=tcp' 'SLURM_JOB_QOS=120' 'HISTSIZE=1000' 'EGS_HOME=/home/edoerner/EGSnrc/egs_home/' 'TMPDIR=/tmp' 'SLURM_TOPOLOGY_ADDR_PATTERN=node' 'SSH_CLIENT=186.105.254.242 55372 22' 'QTDIR=/usr/lib64/qt-3.3' 'QTINC=/usr/lib64/qt-3.3/include' 'SSH_TTY=/dev/pts/2' 'SLURM_MEM_PER_CPU=30' 'QT_GRAPHICSSYSTEM_CHECKED=1' 'SLURM_NNODES=2' 'USER=edoerner' 'LS_COLORS=rs=0:di=38;5;27:ln=38;5;51:mh=44;38;5;15:pi=40;38;5;11:so=38;5;13:do=38;5;5:bd=48;5;232;38;5;11:cd=48;5;232;38;5;3:or=48;5;232;38;5;9:mi=05;48;5;232;38;5;15:su=48;5;196;38;5;15:sg=48;5;11;38;5;16:ca=48;5;196;38;5;226:tw=48;5;10;38;5;16:ow=48;5;10;38;5;21:st=48;5;21;38;5;15:ex=38;5;34:*.tar=38;5;9:*.tgz=38;5;9:*.arc=38;5;9:*.arj=38;5;9:*.taz=38;5;9:*.lha=38;5;9:*.lz4=38;5;9:*.lzh=38;5;9:*.lzma=38;5;9:*.tlz=38;5;9:*.txz=38;5;9:*.tzo=38;5;9:*.t7z=38;5;9:*.zip=38;5;9:*.z=38;5;9:*.Z=38;5;9:*.dz=38;5;9:*.gz=38;5;9:*.lrz=38;5;9:*.lz=38;5;9:*.lzo=38;5;9:*.xz=38;5;9:*.bz2=38;5;9:*.bz=38;5;9:*.tbz=38;5;9:*.tbz2=38;5;9:*.tz=38;5;9:*.deb=38;5;9:*.rpm=38;5;9:*.jar=38;5;9:*.war=38;5;9:*.ear=38;5;9:*.sar=38;5;9:*.rar=38;5;9:*.alz=38;5;9:*.ace=38;5;9:*.zoo=38;5;9:*.cpio=38;5;9:*.7z=38;5;9:*.rz=38;5;9:*.cab=38;5;9:*.jpg=38;5;13:*.jpeg=38;5;13:*.gif=38;5;13:*.bmp=38;5;13:*.pbm=38;5;13:*.pgm=38;5;13:*.ppm=38;5;13:*.tga=38;5;13:*.xbm=38;5;13:*.xpm=38;5;13:*.tif=38;5;13:*.tiff=38;5;13:*.png=38;5;13:*.svg=38;5;13:*.svgz=38;5;13:*.mng=38;5;13:*.pcx=38;5;13:*.mov=38;5;13:*.mpg=38;5;13:*.mpeg=38;5;13:*.m2v=38;5;13:*.mkv=38;5;13:*.webm=38;5;13:*.ogm=38;5;13:*.mp4=38;5;13:*.m4v=38;5;13:*.mp4v=38;5;13:*.vob=38;5;13:*.qt=38;5;13:*.nuv=38;5;13:*.wmv=38;5;13:*.asf=38;5;13:*.rm=38;5;13:*.rmvb=38;5;13:*.flc=38;5;13:*.avi=38;5;13:*.fli=38;5;13:*.flv=38;5;13:*.gl=38;5;13:*.dl=38;5;13:*.xcf=38;5;13:*.xwd=38;5;13:*.yuv=38;5;13:*.cgm=38;5;13:*.emf=38;5;13:*.axv=38;5;13:*.anx=38;5;13:*.ogv=38;5;13:*.ogx=38;5;13:*.aac=38;5;45:*.au=38;5;45:*.flac=38;5;45:*.mid=38;5;45:*.midi=38;5;45:*.mka=38;5;45:*.mp3=38;5;45:*.mpc=38;5;45:*.ogg=38;5;45:*.ra=38;5;45:*.wav=38;5;45:*.axa=38;5;45:*.oga=38;5;45:*.spx=38;5;45:*.xspf=38;5;45:' 'INTEL_HOME=/home/apps/intel/15.0.1' 'SLURM_JOBID=3135097' 'SLURM_TASKS_PER_NODE=1(x2)' 'PATH=/home/apps/intel/2016/impi/5.1.2.150/mic/bin/:/home/edoerner/EGSnrc/egs_home/bin/linux:/home/edoerner/EGSnrc/HEN_HOUSE/bin/linux:/home/apps/intel/15.0.1/composer_xe_2015.5.223/bin/intel64/:/home/apps/intel/15.0.1/bin:/usr/lib64/qt-3.3/bin:/usr/local/bin:/usr/bin:/usr/local/sbin:/usr/sbin:/opt/ibutils/bin:/home/edoerner/bin' 'MAIL=/var/spool/mail/edoerner' 'SLURM_JOB_ID=3135097' 'HEN_HOUSE=/home/edoerner/EGSnrc/HEN_HOUSE/' 'SLURM_JOB_USER=edoerner' 'PWD=/home/edoerner' '_LMFILES_=/usr/share/Modules/modulefiles/intel/15.0.1' 'LANG=en_US.UTF-8' 'MODULEPATH=/usr/share/Modules/modulefiles:/etc/modulefiles:/opt/mellanox/bupc/2.20.2/modules' 'SLURM_JOB_UID=1190' 'LOADEDMODULES=intel/15.0.1' 'SLURM_NODEID=0' 'SLURM_SUBMIT_DIR=/home/edoerner' 'SLURM_TASK_PID=88591' 'SLURM_CPUS_ON_NODE=1' 'SLURM_PROCID=0' 'ENVIRONMENT=BATCH' 'HISTCONTROL=ignoredups' 'SLURM_JOB_NODELIST=cnf001-mic0,cnf002-mic0' 'HOME=/home/edoerner' 'SHLVL=2' 'SLURM_LOCALID=0' 'MIC_SYSROOT=/opt/mpss/3.4.2/sysroots' 'I_MPI_DEBUG=100' 'SLURM_JOB_CPUS_PER_NODE=1(x2)' 'SLURM_CLUSTER_NAME=leftraru' 'SLURM_GTIDS=0' 'SLURM_SUBMIT_HOST=leftraru2' 'SLURM_JOB_PARTITION=mics' 'LOGNAME=edoerner' 'QTLIB=/usr/lib64/qt-3.3/lib' 'SLURM_JOB_ACCOUNT=puc' 'SSH_CONNECTION=186.105.254.242 55372 146.83.2.104 22' 'SLURM_JOB_NUM_NODES=2' 'MODULESHOME=/usr/share/Modules' 'LESSOPEN=||/usr/bin/lesspipe.sh %s' 'OMEGA_HOME=/home/edoerner/EGSnrc/HEN_HOUSE/omega' 'XDG_RUNTIME_DIR=/run/user/1190' 'BASH_FUNC_module()=() { eval `/usr/bin/modulecmd bash $*` }' 'EGS_CONFIG=/home/edoerner/EGSnrc/HEN_HOUSE/specs/linux.conf' '_=/home/apps/intel/2016/impi/5.1.2.150/mic/bin/mpiexec.hydra' --global-user-env 0 --global-system-env 4 'MPIR_CVAR_NEMESIS_ENABLE_CKPOINT=1' 'GFORTRAN_UNBUFFERED_PRECONNECTED=y' 'I_MPI_HYDRA_UUID=105a0100-b8e5-3118-492e-050032a1c0a8' 'DAPL_NETWORK_PROCESS_NUM=2' --proxy-core-count 1 --mpi-cmd-env mpiexec.hydra -v -localhost 192.168.50.161 -ppn 1 -n 2 -hosts 192.168.50.161,192.168.50.164 IMB-MPI1 pingpong -msglog 0:1 --exec --exec-appnum 0 --exec-proc-count 1 --exec-local-env 0 --exec-wdir /home/edoerner --exec-args 4 IMB-MPI1 pingpong -msglog 0:1 [mpiexec@cnf001-mic0] Launch arguments: /home/apps/intel/2016/impi/5.1.2.150/mic/bin//pmi_proxy --control-port 192.168.50.161:42829 --debug --pmi-connect lazy-cache --pmi-aggregate -s 0 --rmk user --launcher ssh --demux poll --pgid 0 --enable-stdin 1 --retries 10 --control-code 42404355 --usize -2 --proxy-id 0 [mpiexec@cnf001-mic0] Launch arguments: /usr/bin/ssh 192.168.50.164 /home/apps/intel/2016/impi/5.1.2.150/mic/bin//pmi_proxy --control-port 192.168.50.161:42829 --debug --pmi-connect lazy-cache --pmi-aggregate -s 0 --rmk user --launcher ssh --demux poll --pgid 0 --enable-stdin 1 --retries 10 --control-code 42404355 --usize -2 --proxy-id 1 [mpiexec@cnf001-mic0] STDIN will be redirected to 1 fd(s): 11 [proxy:0:0@cnf001-mic0] Start PMI_proxy 0 [proxy:0:0@cnf001-mic0] STDIN will be redirected to 1 fd(s): 17 [proxy:0:0@cnf001-mic0] got pmi command (from 12): init pmi_version=1 pmi_subversion=1 [proxy:0:0@cnf001-mic0] PMI response: cmd=response_to_init pmi_version=1 pmi_subversion=1 rc=0 [proxy:0:0@cnf001-mic0] got pmi command (from 12): get_maxes [proxy:0:0@cnf001-mic0] PMI response: cmd=maxes kvsname_max=256 keylen_max=64 vallen_max=1024 [proxy:0:0@cnf001-mic0] got pmi command (from 12): barrier_in [proxy:0:0@cnf001-mic0] forwarding command (cmd=barrier_in) upstream [mpiexec@cnf001-mic0] [pgid: 0] got PMI command: cmd=barrier_in [proxy:0:1@cnf002-mic0] Start PMI_proxy 1