ViewVC Help
View File | Revision Log | Show Annotations | View Changeset | Root Listing
root/group/trunk/OOPSE/libmdtools/DumpWriter.cpp
(Generate patch)

Comparing trunk/OOPSE/libmdtools/DumpWriter.cpp (file contents):
Revision 907 by gezelter, Thu Jan 8 17:40:56 2004 UTC vs.
Revision 926 by tim, Mon Jan 12 20:37:59 2004 UTC

# Line 66 | Line 66 | void DumpWriter::writeDump( double currentTime ){
66   void DumpWriter::writeDump( double currentTime ){
67  
68    const int BUFFERSIZE = 2000;
69 <  const int MINIBUFFERSIZE = 10;
69 >  const int MINIBUFFERSIZE = 100;
70  
71    char tempBuffer[BUFFERSIZE];
72    char writeLine[BUFFERSIZE];
73  
74    int i;
75 +
76   #ifdef IS_MPI
77 +  
78 +  int *potatoes;
79 +  int myPotato;
80 +
81 +  int nProc;
82    int j, which_node, done, which_atom, local_index;
83 <  double atomTransData[6];
84 <  double atomOrientData[7];
83 >  double atomData6[6];
84 >  double atomData13[13];
85    int isDirectional;
86    char* atomTypeString;
87 <  int me;
88 <  int atomTypeTag;
83 <  int atomIsDirectionalTag;
84 <  int atomTransDataTag;
85 <  int atomOrientDataTag;
87 >  char MPIatomTypeString[MINIBUFFERSIZE];
88 >
89   #else //is_mpi
90    int nAtoms = entry_plug->n_atoms;
91   #endif //is_mpi
# Line 157 | Line 160 | void DumpWriter::writeDump( double currentTime ){
160  
161   #else // is_mpi
162  
163 <  // first thing first, suspend fatalities.
164 <  painCave.isEventLoop = 1;
163 >  /* code to find maximum tag value */
164 >  
165 >  int *tagub, flag, MAXTAG;
166 >  MPI_Attr_get(MPI_COMM_WORLD, MPI_TAG_UB, &tagub, &flag);
167 >  if (flag) {
168 >    MAXTAG = *tagub;
169 >  } else {
170 >    MAXTAG = 32767;
171 >  }  
172  
163  int myStatus; // 1 = wakeup & success; 0 = error; -1 = AllDone
173    int haveError;
174  
175    MPI_Status istatus;
# Line 169 | Line 178 | void DumpWriter::writeDump( double currentTime ){
178    // write out header and node 0's coordinates
179  
180    if( worldRank == 0 ){
181 +
182 +    // Node 0 needs a list of the magic potatoes for each processor;
183 +
184 +    nProc = mpiSim->getNumberProcessors();
185 +    potatoes = new int[nProc];
186 +
187 +    for (i = 0; i < nProc; i++)
188 +      potatoes[i] = 0;
189 +    
190      outFile << mpiSim->getTotAtoms() << "\n";
191  
192      outFile << currentTime << ";\t"
# Line 187 | Line 205 | void DumpWriter::writeDump( double currentTime ){
205      outFile << entry_plug->the_integrator->getAdditionalParameters();
206      outFile << endl;
207      outFile.flush();
208 +
209      for (i = 0 ; i < mpiSim->getTotAtoms(); i++ ) {
210 +      
211        // Get the Node number which has this atom;
212 <
212 >      
213        which_node = AtomToProcMap[i];
214 <
214 >      
215        if (which_node != 0) {
196        
197        atomTypeTag          = 4*i;
198        atomIsDirectionalTag = 4*i + 1;
199        atomTransDataTag     = 4*i + 2;
200        atomOrientDataTag    = 4*i + 3;
216  
217 <        MPI_Recv(atomTypeString, MINIBUFFERSIZE, MPI_CHAR, which_node,
218 <                 atomTypeTag, MPI_COMM_WORLD, &istatus);
217 >        if (potatoes[which_node] + 3 >= MAXTAG) {
218 >          // The potato was going to exceed the maximum value,
219 >          // so wrap this processor potato back to 0:        
220 >
221 >          potatoes[which_node] = 0;          
222 >          MPI_Send(0, 1, MPI_INT, which_node, 0, MPI_COMM_WORLD);
223 >          
224 >        }
225 >
226 >        myPotato = potatoes[which_node];        
227          
228 <        MPI_Recv(&isDirectional, 1, MPI_INT, which_node,
229 <                 atomIsDirectionalTag, MPI_COMM_WORLD, &istatus);
228 >        MPI_Recv(MPIatomTypeString, MINIBUFFERSIZE, MPI_CHAR, which_node,
229 >                 myPotato, MPI_COMM_WORLD, &istatus);
230          
231 <        MPI_Recv(atomTransData, 6, MPI_DOUBLE, which_node,
232 <                 atomTransDataTag, MPI_COMM_WORLD, &istatus);
231 >        //strncpy(atomTypeString, MPIatomTypeString, MINIBUFFERSIZE);
232 >        
233 >        // Null terminate the atomTypeString just in case:
234  
235 <        if (isDirectional) {
235 >        //atomTypeString[strlen(atomTypeString) - 1] = '\0';
236 >        atomTypeString = MPIatomTypeString;
237 >        
238 >        myPotato++;
239  
240 <          MPI_Recv(atomOrientData, 7, MPI_DOUBLE, which_node,
241 <                   atomOrientDataTag, MPI_COMM_WORLD, &istatus);
240 >        MPI_Recv(&isDirectional, 1, MPI_INT, which_node,
241 >                 myPotato, MPI_COMM_WORLD, &istatus);
242 >              
243 >        myPotato++;
244  
245 +        if (isDirectional) {          
246 +          MPI_Recv(atomData13, 13, MPI_DOUBLE, which_node,
247 +                   myPotato, MPI_COMM_WORLD, &istatus);
248 +        } else {
249 +          MPI_Recv(atomData6, 6, MPI_DOUBLE, which_node,
250 +                   myPotato, MPI_COMM_WORLD, &istatus);          
251          }
252 +        
253 +        myPotato++;
254 +        potatoes[which_node] = myPotato;
255  
256        } else {
257          
258          haveError = 0;
259          which_atom = i;
260          local_index=-1;
261 <
261 >        
262          for (j=0; (j<mpiSim->getMyNlocal()) && (local_index < 0); j++) {
263            if (atoms[j]->getGlobalIndex() == which_atom) local_index = j;
264          }
265 <
265 >        
266          if (local_index != -1) {
267 <
267 >          
268            atomTypeString = atoms[local_index]->getType();
269  
270            atoms[local_index]->getPos(pos);
271 <          atoms[local_index]->getVel(vel);
271 >          atoms[local_index]->getVel(vel);          
272  
273 <          atomTransData[0] = pos[0];
274 <          atomTransData[1] = pos[1];
275 <          atomTransData[2] = pos[2];
273 >          atomData6[0] = pos[0];
274 >          atomData6[1] = pos[1];
275 >          atomData6[2] = pos[2];
276  
277 <          atomTransData[3] = vel[0];
278 <          atomTransData[4] = vel[1];
279 <          atomTransData[5] = vel[2];
277 >          atomData6[3] = vel[0];
278 >          atomData6[4] = vel[1];
279 >          atomData6[5] = vel[2];
280            
281            isDirectional = 0;
282  
# Line 248 | Line 286 | void DumpWriter::writeDump( double currentTime ){
286              
287              dAtom = (DirectionalAtom *)atoms[local_index];
288              dAtom->getQ( q );
251            
252            atomOrientData[0] = q[0];
253            atomOrientData[1] = q[1];
254            atomOrientData[2] = q[2];
255            atomOrientData[3] = q[3];
289  
290 <            atomOrientData[4] = dAtom->getJx();
291 <            atomOrientData[5] = dAtom->getJy();
292 <            atomOrientData[6] = dAtom->getJz();
290 >            for (int j = 0; j < 6 ; j++)
291 >              atomData13[j] = atomData6[j];            
292 >            
293 >            atomData13[6] = q[0];
294 >            atomData13[7] = q[1];
295 >            atomData13[8] = q[2];
296 >            atomData13[9] = q[3];
297 >            
298 >            atomData13[10] = dAtom->getJx();
299 >            atomData13[11] = dAtom->getJy();
300 >            atomData13[12] = dAtom->getJz();
301            }
302 <
302 >          
303          } else {
304            sprintf(painCave.errMsg,
305                    "Atom %d not found on processor %d\n",
# Line 266 | Line 307 | void DumpWriter::writeDump( double currentTime ){
307            haveError= 1;
308            simError();
309          }
310 <
310 >        
311          if(haveError) DieDieDie();
271                              
272        // If we've survived to here, format the line:
312          
313 <        sprintf( tempBuffer,
314 <                 "%s\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t",
315 <                 atomTypeString,
316 <                 atomTransData[0],
317 <                 atomTransData[1],
318 <                 atomTransData[2],
319 <                 atomTransData[3],
320 <                 atomTransData[4],
321 <                 atomTransData[5]);
322 <
323 <        strcpy( writeLine, tempBuffer );
324 <
325 <        if (isDirectional) {
326 <
327 <          sprintf( tempBuffer,
328 <                   "%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\n",
329 <                   atomOrientData[0],
330 <                   atomOrientData[1],
331 <                   atomOrientData[2],
332 <                   atomOrientData[3],
333 <                   atomOrientData[4],
334 <                   atomOrientData[5],
335 <                   atomOrientData[6]);
336 <          strcat( writeLine, tempBuffer );
337 <
338 <        } else {
339 <          strcat( writeLine, "0.0\t0.0\t0.0\t0.0\t0.0\t0.0\t0.0\n" );
340 <        }
341 <
342 <        outFile << writeLine;
343 <        outFile.flush();
313 >      }
314 >      // If we've survived to here, format the line:
315 >      
316 >      if (!isDirectional) {
317 >        
318 >        sprintf( tempBuffer,
319 >                 "%s\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t",
320 >                 atomTypeString,
321 >                 atomData6[0],
322 >                 atomData6[1],
323 >                 atomData6[2],
324 >                 atomData6[3],
325 >                 atomData6[4],
326 >                 atomData6[5]);
327 >        
328 >        strcpy( writeLine, tempBuffer );
329 >        strcat( writeLine, "0.0\t0.0\t0.0\t0.0\t0.0\t0.0\t0.0\n" );
330 >        
331 >      } else {
332 >        
333 >        sprintf( tempBuffer,
334 >                 "%s\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\n",
335 >                 atomTypeString,
336 >                 atomData13[0],
337 >                 atomData13[1],
338 >                 atomData13[2],
339 >                 atomData13[3],
340 >                 atomData13[4],
341 >                 atomData13[5],
342 >                 atomData13[6],
343 >                 atomData13[7],
344 >                 atomData13[8],
345 >                 atomData13[9],
346 >                 atomData13[10],
347 >                 atomData13[11],
348 >                 atomData13[12]);
349 >        
350 >        strcat( writeLine, tempBuffer );
351 >        
352        }
353 +      
354 +      outFile << writeLine;
355 +      outFile.flush();
356      }
357 +    
358  
359      outFile.flush();
360      sprintf( checkPointMsg,
361               "Sucessfully took a dump.\n");
362      MPIcheckPoint();        
363 <    
363 >    delete[] potatoes;
364    } else {
365  
366      // worldRank != 0, so I'm a remote node.  
367 +
368 +    // Set my magic potato to 0:
369 +
370 +    myPotato = 0;
371      
372      for (i = 0 ; i < mpiSim->getTotAtoms(); i++ ) {
373        
# Line 320 | Line 375 | void DumpWriter::writeDump( double currentTime ){
375        
376        if (AtomToProcMap[i] == worldRank) {
377  
378 <        local_index=-1;
378 >        if (myPotato + 3 >= MAXTAG) {
379 >
380 >          // The potato was going to exceed the maximum value,
381 >          // so wrap this processor potato back to 0 (and block until
382 >          // node 0 says we can go:
383 >
384 >          MPI_Recv(&myPotato, 1, MPI_INT, 0, 0, MPI_COMM_WORLD, &istatus);
385 >          
386 >        }
387 >        which_atom = i;
388 >        local_index=-1;
389          for (j=0; (j<mpiSim->getMyNlocal()) && (local_index < 0); j++) {
390            if (atoms[j]->getGlobalIndex() == which_atom) local_index = j;
391          }
# Line 331 | Line 396 | void DumpWriter::writeDump( double currentTime ){
396            atoms[local_index]->getPos(pos);
397            atoms[local_index]->getVel(vel);
398  
399 <          atomTransData[0] = pos[0];
400 <          atomTransData[1] = pos[1];
401 <          atomTransData[2] = pos[2];
399 >          atomData6[0] = pos[0];
400 >          atomData6[1] = pos[1];
401 >          atomData6[2] = pos[2];
402  
403 <          atomTransData[3] = vel[0];
404 <          atomTransData[4] = vel[1];
405 <          atomTransData[5] = vel[2];
403 >          atomData6[3] = vel[0];
404 >          atomData6[4] = vel[1];
405 >          atomData6[5] = vel[2];
406            
407            isDirectional = 0;
408  
# Line 348 | Line 413 | void DumpWriter::writeDump( double currentTime ){
413              dAtom = (DirectionalAtom *)atoms[local_index];
414              dAtom->getQ( q );
415              
416 <            atomOrientData[0] = q[0];
417 <            atomOrientData[1] = q[1];
418 <            atomOrientData[2] = q[2];
419 <            atomOrientData[3] = q[3];
416 >            for (int j = 0; j < 6 ; j++)
417 >              atomData13[j] = atomData6[j];
418 >            
419 >            atomData13[6] = q[0];
420 >            atomData13[7] = q[1];
421 >            atomData13[8] = q[2];
422 >            atomData13[9] = q[3];
423  
424 <            atomOrientData[4] = dAtom->getJx();
425 <            atomOrientData[5] = dAtom->getJy();
426 <            atomOrientData[6] = dAtom->getJz();
424 >            atomData13[10] = dAtom->getJx();
425 >            atomData13[11] = dAtom->getJy();
426 >            atomData13[12] = dAtom->getJz();
427            }
428  
429          } else {
# Line 366 | Line 434 | void DumpWriter::writeDump( double currentTime ){
434            simError();
435          }
436  
437 <        // I've survived this far, so send off the data!
437 >        strncpy(MPIatomTypeString, atomTypeString, MINIBUFFERSIZE);
438  
439 <        atomTypeTag          = 4*i;
440 <        atomIsDirectionalTag = 4*i + 1;
373 <        atomTransDataTag     = 4*i + 2;
374 <        atomOrientDataTag    = 4*i + 3;
439 >        // null terminate the string before sending (just in case):
440 >        MPIatomTypeString[MINIBUFFERSIZE-1] = '\0';
441  
442 <        MPI_Send(atomTypeString, MINIBUFFERSIZE, MPI_CHAR, 0,
443 <                 atomTypeTag, MPI_COMM_WORLD);
442 >        MPI_Send(MPIatomTypeString, MINIBUFFERSIZE, MPI_CHAR, 0,
443 >                 myPotato, MPI_COMM_WORLD);
444          
445 +        myPotato++;
446 +
447          MPI_Send(&isDirectional, 1, MPI_INT, 0,
448 <                 atomIsDirectionalTag, MPI_COMM_WORLD);
448 >                 myPotato, MPI_COMM_WORLD);
449          
450 <        MPI_Send(atomTransData, 6, MPI_DOUBLE, 0,
451 <                 atomTransDataTag, MPI_COMM_WORLD);
384 <
450 >        myPotato++;
451 >        
452          if (isDirectional) {
453  
454 <          MPI_Send(atomOrientData, 7, MPI_DOUBLE, 0,
455 <                   atomOrientDataTag, MPI_COMM_WORLD);
454 >          MPI_Send(atomData13, 13, MPI_DOUBLE, 0,
455 >                   myPotato, MPI_COMM_WORLD);
456            
457 +        } else {
458 +
459 +          MPI_Send(atomData6, 6, MPI_DOUBLE, 0,
460 +                   myPotato, MPI_COMM_WORLD);
461          }
462 <      
462 >
463 >        myPotato++;      
464        }
465      }
466  
# Line 396 | Line 468 | void DumpWriter::writeDump( double currentTime ){
468               "Sucessfully took a dump.\n");
469      MPIcheckPoint();        
470      
471 <  }
471 >  }
472    
401  painCave.isEventLoop = 0;
402
473   #endif // is_mpi
474   }
475  
# Line 409 | Line 479 | void DumpWriter::writeFinal(double finalTime){
479    ofstream finalOut;
480  
481    const int BUFFERSIZE = 2000;
482 <  const int MINIBUFFERSIZE = 10;
482 >  const int MINIBUFFERSIZE = 100;
483    char tempBuffer[BUFFERSIZE];
484    char writeLine[BUFFERSIZE];
485  
# Line 418 | Line 488 | void DumpWriter::writeFinal(double finalTime){
488    Atom** atoms = entry_plug->atoms;
489    int i;
490   #ifdef IS_MPI
491 +  
492 +  int *potatoes;
493 +  int myPotato;
494 +
495 +  int nProc;
496    int j, which_node, done, which_atom, local_index;
497 <  double atomTransData[6];
498 <  double atomOrientData[7];
497 >  double atomData6[6];
498 >  double atomData13[13];
499    int isDirectional;
500    char* atomTypeString;
501 <  int atomTypeTag;
502 <  int atomIsDirectionalTag;
428 <  int atomTransDataTag;
429 <  int atomOrientDataTag;
501 >  char MPIatomTypeString[MINIBUFFERSIZE];
502 >
503   #else //is_mpi
504    int nAtoms = entry_plug->n_atoms;
505   #endif //is_mpi
# Line 522 | Line 595 | void DumpWriter::writeFinal(double finalTime){
595  
596   #else // is_mpi
597  
598 <  // first thing first, suspend fatalities.
599 <  painCave.isEventLoop = 1;
598 >  /* code to find maximum tag value */
599 >  int *tagub, flag, MAXTAG;
600 >  MPI_Attr_get(MPI_COMM_WORLD, MPI_TAG_UB, &tagub, &flag);
601 >  if (flag) {
602 >    MAXTAG = *tagub;
603 >  } else {
604 >    MAXTAG = 32767;
605 >  }  
606  
528  int myStatus; // 1 = wakeup & success; 0 = error; -1 = AllDone
607    int haveError;
608  
609    MPI_Status istatus;
# Line 534 | Line 612 | void DumpWriter::writeFinal(double finalTime){
612    // write out header and node 0's coordinates
613  
614    if( worldRank == 0 ){
615 +
616 +    // Node 0 needs a list of the magic potatoes for each processor;
617 +
618 +    nProc = mpiSim->getNumberProcessors();
619 +    potatoes = new int[nProc];
620 +
621 +    for (i = 0; i < nProc; i++)
622 +      potatoes[i] = 0;
623 +    
624      finalOut << mpiSim->getTotAtoms() << "\n";
625  
626      finalOut << finalTime << ";\t"
# Line 552 | Line 639 | void DumpWriter::writeFinal(double finalTime){
639      finalOut << entry_plug->the_integrator->getAdditionalParameters();
640      finalOut << endl;
641      finalOut.flush();
642 +
643      for (i = 0 ; i < mpiSim->getTotAtoms(); i++ ) {
644 +      
645        // Get the Node number which has this atom;
646 <
646 >      
647        which_node = AtomToProcMap[i];
648 <
648 >      
649        if (which_node != 0) {
561        
562        atomTypeTag          = 4*i;
563        atomIsDirectionalTag = 4*i + 1;
564        atomTransDataTag     = 4*i + 2;
565        atomOrientDataTag    = 4*i + 3;
650  
651 <        MPI_Recv(atomTypeString, MINIBUFFERSIZE, MPI_CHAR, which_node,
652 <                 atomTypeTag, MPI_COMM_WORLD, &istatus);
651 >        if (potatoes[which_node] + 3 >= MAXTAG) {
652 >          // The potato was going to exceed the maximum value,
653 >          // so wrap this processor potato back to 0:        
654 >
655 >          potatoes[which_node] = 0;          
656 >          MPI_Send(0, 1, MPI_INT, which_node, 0, MPI_COMM_WORLD);
657 >          
658 >        }
659 >
660 >        myPotato = potatoes[which_node];        
661          
662 <        MPI_Recv(&isDirectional, 1, MPI_INT, which_node,
663 <                 atomIsDirectionalTag, MPI_COMM_WORLD, &istatus);
662 >        MPI_Recv(MPIatomTypeString, MINIBUFFERSIZE, MPI_CHAR, which_node,
663 >                 myPotato, MPI_COMM_WORLD, &istatus);
664          
665 <        MPI_Recv(atomTransData, 6, MPI_DOUBLE, which_node,
666 <                 atomTransDataTag, MPI_COMM_WORLD, &istatus);
665 >        atomTypeString = MPIatomTypeString;
666 >                
667 >        myPotato++;
668  
669 <        if (isDirectional) {
669 >        MPI_Recv(&isDirectional, 1, MPI_INT, which_node,
670 >                 myPotato, MPI_COMM_WORLD, &istatus);
671 >              
672 >        myPotato++;
673  
674 <          MPI_Recv(atomOrientData, 7, MPI_DOUBLE, which_node,
675 <                   atomOrientDataTag, MPI_COMM_WORLD, &istatus);
676 <
674 >        if (isDirectional) {          
675 >          MPI_Recv(atomData13, 13, MPI_DOUBLE, which_node,
676 >                   myPotato, MPI_COMM_WORLD, &istatus);
677 >        } else {
678 >          printf("inside \n");  
679 >          MPI_Recv(atomData6, 6, MPI_DOUBLE, which_node,
680 >                   myPotato, MPI_COMM_WORLD, &istatus);          
681          }
682 +        
683 +        myPotato++;
684 +        potatoes[which_node] = myPotato;
685  
686        } else {
687          
688          haveError = 0;
689          which_atom = i;
690          local_index=-1;
691 <
691 >        
692          for (j=0; (j<mpiSim->getMyNlocal()) && (local_index < 0); j++) {
693            if (atoms[j]->getGlobalIndex() == which_atom) local_index = j;
694          }
695 <
695 >        
696          if (local_index != -1) {
697 <
697 >          
698            atomTypeString = atoms[local_index]->getType();
699  
700            atoms[local_index]->getPos(pos);
701 <          atoms[local_index]->getVel(vel);
701 >          atoms[local_index]->getVel(vel);          
702  
703 <          atomTransData[0] = pos[0];
704 <          atomTransData[1] = pos[1];
705 <          atomTransData[2] = pos[2];
703 >          atomData6[0] = pos[0];
704 >          atomData6[1] = pos[1];
705 >          atomData6[2] = pos[2];
706  
707 <          atomTransData[3] = vel[0];
708 <          atomTransData[4] = vel[1];
709 <          atomTransData[5] = vel[2];
707 >          atomData6[3] = vel[0];
708 >          atomData6[4] = vel[1];
709 >          atomData6[5] = vel[2];
710            
711            isDirectional = 0;
712  
# Line 613 | Line 716 | void DumpWriter::writeFinal(double finalTime){
716              
717              dAtom = (DirectionalAtom *)atoms[local_index];
718              dAtom->getQ( q );
616            
617            atomOrientData[0] = q[0];
618            atomOrientData[1] = q[1];
619            atomOrientData[2] = q[2];
620            atomOrientData[3] = q[3];
719  
720 <            atomOrientData[4] = dAtom->getJx();
721 <            atomOrientData[5] = dAtom->getJy();
722 <            atomOrientData[6] = dAtom->getJz();
720 >            for (int j = 0; j < 6 ; j++)
721 >              atomData13[j] = atomData6[j];            
722 >            
723 >            atomData13[6] = q[0];
724 >            atomData13[7] = q[1];
725 >            atomData13[8] = q[2];
726 >            atomData13[9] = q[3];
727 >            
728 >            atomData13[10] = dAtom->getJx();
729 >            atomData13[11] = dAtom->getJy();
730 >            atomData13[12] = dAtom->getJz();
731            }
732 <
732 >          
733          } else {
734            sprintf(painCave.errMsg,
735                    "Atom %d not found on processor %d\n",
# Line 631 | Line 737 | void DumpWriter::writeFinal(double finalTime){
737            haveError= 1;
738            simError();
739          }
740 <
740 >        
741          if(haveError) DieDieDie();
636                              
637        // If we've survived to here, format the line:
742          
743 <        sprintf( tempBuffer,
640 <                 "%s\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t",
641 <                 atomTypeString,
642 <                 atomTransData[0],
643 <                 atomTransData[1],
644 <                 atomTransData[2],
645 <                 atomTransData[3],
646 <                 atomTransData[4],
647 <                 atomTransData[5]);
743 >      }
744  
649        strcpy( writeLine, tempBuffer );
745  
746 <        if (isDirectional) {
747 <
748 <          sprintf( tempBuffer,
749 <                   "%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\n",
750 <                   atomOrientData[0],
751 <                   atomOrientData[1],
752 <                   atomOrientData[2],
753 <                   atomOrientData[3],
754 <                   atomOrientData[4],
755 <                   atomOrientData[5],
756 <                   atomOrientData[6]);
757 <          strcat( writeLine, tempBuffer );
758 <
759 <        } else {
760 <          strcat( writeLine, "0.0\t0.0\t0.0\t0.0\t0.0\t0.0\t0.0\n" );
761 <        }
762 <
763 <        finalOut << writeLine;
764 <        finalOut.flush();
746 >      // If we've survived to here, format the line:
747 >      
748 >      if (!isDirectional) {
749 >        
750 >        sprintf( tempBuffer,
751 >                 "%s\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t",
752 >                 atomTypeString,
753 >                 atomData6[0],
754 >                 atomData6[1],
755 >                 atomData6[2],
756 >                 atomData6[3],
757 >                 atomData6[4],
758 >                 atomData6[5]);
759 >        
760 >        strcpy( writeLine, tempBuffer );
761 >        strcat( writeLine, "0.0\t0.0\t0.0\t0.0\t0.0\t0.0\t0.0\n" );
762 >        
763 >      } else {
764 >        
765 >        sprintf( tempBuffer,
766 >                 "%s\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\t%lf\n",
767 >                 atomTypeString,
768 >                 atomData13[0],
769 >                 atomData13[1],
770 >                 atomData13[2],
771 >                 atomData13[3],
772 >                 atomData13[4],
773 >                 atomData13[5],
774 >                 atomData13[6],
775 >                 atomData13[7],
776 >                 atomData13[8],
777 >                 atomData13[9],
778 >                 atomData13[10],
779 >                 atomData13[11],
780 >                 atomData13[12]);
781 >        
782 >        strcat( writeLine, tempBuffer );
783 >        
784        }
785 +        
786 +      finalOut << writeLine;
787 +      finalOut.flush();
788      }
789 <
789 >  
790      finalOut.flush();
791      sprintf( checkPointMsg,
792               "Sucessfully took a dump.\n");
793 +    delete[] potatoes;
794 +    
795      MPIcheckPoint();        
796      
797    } else {
798  
799      // worldRank != 0, so I'm a remote node.  
800 +
801 +    // Set my magic potato to 0:
802 +
803 +    myPotato = 0;
804      
805      for (i = 0 ; i < mpiSim->getTotAtoms(); i++ ) {
806        
# Line 685 | Line 808 | void DumpWriter::writeFinal(double finalTime){
808        
809        if (AtomToProcMap[i] == worldRank) {
810  
811 +        if (myPotato + 3 >= MAXTAG) {
812 +
813 +          // The potato was going to exceed the maximum value,
814 +          // so wrap this processor potato back to 0 (and block until
815 +          // node 0 says we can go:
816 +
817 +          MPI_Recv(&myPotato, 1, MPI_INT, 0, 0, MPI_COMM_WORLD, &istatus);
818 +          
819 +        }
820 +        which_atom = i;  
821          local_index=-1;
822          for (j=0; (j<mpiSim->getMyNlocal()) && (local_index < 0); j++) {
823            if (atoms[j]->getGlobalIndex() == which_atom) local_index = j;
# Line 696 | Line 829 | void DumpWriter::writeFinal(double finalTime){
829            atoms[local_index]->getPos(pos);
830            atoms[local_index]->getVel(vel);
831  
832 <          atomTransData[0] = pos[0];
833 <          atomTransData[1] = pos[1];
834 <          atomTransData[2] = pos[2];
832 >          atomData6[0] = pos[0];
833 >          atomData6[1] = pos[1];
834 >          atomData6[2] = pos[2];
835  
836 <          atomTransData[3] = vel[0];
837 <          atomTransData[4] = vel[1];
838 <          atomTransData[5] = vel[2];
836 >          atomData6[3] = vel[0];
837 >          atomData6[4] = vel[1];
838 >          atomData6[5] = vel[2];
839            
840            isDirectional = 0;
841  
# Line 713 | Line 846 | void DumpWriter::writeFinal(double finalTime){
846              dAtom = (DirectionalAtom *)atoms[local_index];
847              dAtom->getQ( q );
848              
849 <            atomOrientData[0] = q[0];
850 <            atomOrientData[1] = q[1];
851 <            atomOrientData[2] = q[2];
852 <            atomOrientData[3] = q[3];
849 >            for (int j = 0; j < 6 ; j++)
850 >              atomData13[j] = atomData6[j];
851 >            
852 >            atomData13[6] = q[0];
853 >            atomData13[7] = q[1];
854 >            atomData13[8] = q[2];
855 >            atomData13[9] = q[3];
856  
857 <            atomOrientData[4] = dAtom->getJx();
858 <            atomOrientData[5] = dAtom->getJy();
859 <            atomOrientData[6] = dAtom->getJz();
857 >            atomData13[10] = dAtom->getJx();
858 >            atomData13[11] = dAtom->getJy();
859 >            atomData13[12] = dAtom->getJz();
860            }
861  
862          } else {
# Line 731 | Line 867 | void DumpWriter::writeFinal(double finalTime){
867            simError();
868          }
869  
870 <        // I've survived this far, so send off the data!
870 >        strncpy(MPIatomTypeString, atomTypeString, MINIBUFFERSIZE);
871  
872 <        atomTypeTag          = 4*i;
873 <        atomIsDirectionalTag = 4*i + 1;
738 <        atomTransDataTag     = 4*i + 2;
739 <        atomOrientDataTag    = 4*i + 3;
872 >        // null terminate the string before sending (just in case):
873 >        MPIatomTypeString[MINIBUFFERSIZE-1] = '\0';
874  
875 <        MPI_Send(atomTypeString, MINIBUFFERSIZE, MPI_CHAR, 0,
876 <                 atomTypeTag, MPI_COMM_WORLD);
875 >        MPI_Send(MPIatomTypeString, MINIBUFFERSIZE, MPI_CHAR, 0,
876 >                 myPotato, MPI_COMM_WORLD);
877          
878 +        myPotato++;
879 +
880          MPI_Send(&isDirectional, 1, MPI_INT, 0,
881 <                 atomIsDirectionalTag, MPI_COMM_WORLD);
881 >                 myPotato, MPI_COMM_WORLD);
882          
883 <        MPI_Send(atomTransData, 6, MPI_DOUBLE, 0,
884 <                 atomTransDataTag, MPI_COMM_WORLD);
749 <
883 >        myPotato++;
884 >        
885          if (isDirectional) {
886  
887 <          MPI_Send(atomOrientData, 7, MPI_DOUBLE, 0,
888 <                   atomOrientDataTag, MPI_COMM_WORLD);
887 >          MPI_Send(atomData13, 13, MPI_DOUBLE, 0,
888 >                   myPotato, MPI_COMM_WORLD);
889            
890 +        } else {
891 +
892 +          MPI_Send(atomData6, 6, MPI_DOUBLE, 0,
893 +                   myPotato, MPI_COMM_WORLD);
894          }
895 <      
895 >
896 >        myPotato++;      
897        }
898      }
899  
900      sprintf( checkPointMsg,
901 <             "Sucessfully wrote final file.\n");
901 >             "Sucessfully took a dump.\n");
902      MPIcheckPoint();        
903      
904 <  }
904 >  }
905    
766  painCave.isEventLoop = 0;
767
906    if( worldRank == 0 ) finalOut.close();
907   #endif // is_mpi
908   }

Diff Legend

Removed lines
+ Added lines
< Changed lines
> Changed lines