PCクラスタにおける大規模並列入出力に関する研究

• Project/Area Number: 15700079
• Research Category: Grant-in-Aid for Young Scientists (B)
• Allocation Type: Single-year Grants
• Research Field: Computer system/Network
• Research Institution: Kinki University
• Principal Investigator: 辻田 祐一 近畿大学, 工学部, 講師 (70360435)
• Project Period (FY): 2003 – 2005
• Project Status: Completed (Fiscal Year 2005)
• Budget Amount: ¥3,900,000 (Direct Cost: ¥3,900,000); Fiscal Year 2005: ¥500,000 (Direct Cost: ¥500,000); Fiscal Year 2004: ¥500,000 (Direct Cost: ¥500,000); Fiscal Year 2003: ¥2,900,000 (Direct Cost: ¥2,900,000)
• Keywords: Stampi / MPI-I / O / PVFS / circular buffer / parallel netCDF / ノンブロッキング入出力 / マルチスレッド / 0 / 非同期入出力

Research Abstract

PCクラスタにおける大規模並列入出力を実現するため、日本原子力研究開発機構システム計算科学センターで開発された異機種計算機間通信ライブラリStampiに、新たにPCクラスタで大規模並列入出力を行うための機能拡張と性能評価を行った。
PCクラスタで利用可能な並列ファイルシステムであるPVFSは大規模な並列入出力機能を提供するが、異なる計算機からは利用できない。そこでStampiの持つ計算機間入出力機能を用い、PVFSへのリモート入出力機能を実現した。計算機間の入出力はリモート計算機上に起動した入出力を行うMPI-I/Oプロセスにより行われる。PVFSへの入出力はUNIXが提供する入出力関数とPVFSが提供するネイティブな入出力関数の両方が利用できるが、計算機間のデータ通信がボトルネックになる問題を抱えていた。そこで、MPI-I/Oプロセスに循環バッファ機構を導入した。この循環バッファは、各バッファ長とバッファの段数がユーザ・プログラムから変更できるようになっており、この二つのパラメタを変更し、計算機間入出力の性能が向上する組み合わせを調査し、最適な組み合わせを探した。この性能評価により、この循環バッファを用いることにより、循環バッファが保持できるデータ長以内であれば、このバッファに入出力操作並びに通信待ちになるデータを一時的に保持する事が出来、全体の性能が向上することを実証した。
さらに数値計算で共通データ形式をサポートする入出力インタフェースでも利用可能にするために開発されたparallel netCDFインタフェースによる計算機間入出力機能について基本的な入出力関数の実装を試みた。さらにその性能を評価し、その有用性を実証すると共に、問題点を洗い出した。

Research Products

• [Journal Article] Realizing Effective MPI-I/O to a Remote Computer Using a Parallel Virtual File System (2006)
  • Author(s): Yuichi Tsujita
  • Journal Title: IEICE Transactions on Information and Systems E89-D, No.2 Pages: 425-432
  • NAID: 110004719307
• [Journal Article] MPI-I/O Operations to a Remote Computer Using Java (2005)
  • Author(s): Yuichi Tsujita
  • Journal Title: Proceedings of the 11th International Conference on Parallel and Distributed Systems (ICPADS 2005), Volume II Workshops (IEEE Computer Society Press) Pages: 694-698
• [Journal Article] Efficient MPI-I/O Support in Data-Intensive Remote I/O Operations Using a Parallel Virtual File System (2005)
  • Author(s): Yuichi Tsujita
  • Journal Title: Current Trends in High Performance Computing and Its Applications (Springer) Pages: 135-144
• [Journal Article] Optimization of Nonblocking MPI-I/O to a Remote Parallel Virtual File System Using a Circular Buffer (2005)
  • Author(s): Yuichi Tsujita
  • Journal Title: High Performance Computing and Communications, Lecture Notes in Computer Science (Springer) 3726 Pages: 585-594
• [Journal Article] Effective Remote MPI-I/O on a Parallel Virtual File System Using a Circular Buffer : A Case Study for Optimization (2005)
  • Author(s): Yuichi Tsujita
  • Journal Title: Proceedings of the 17th TASTED International Conference on Parallel and Distributed Computing and Systems (PDCS2005) (ACTA Press) Pages: 490-495
• [Journal Article] Parallel netCDFインタフェースによる計算機間入出力操作の試み (2005)
  • Author(s): 辻田 祐一
  • Journal Title: 情報処理学会研究報告 2005-HPC-104 Vol.2005, No.97 Pages: 19-24
  • NAID: 110002952974
• [Journal Article] Effective Overlap of Computation with I/O Operations in Remote MPI-I/O Operations Using a Multithreaded I/O Mechanism (2005)
  • Author(s): Yuichi Tsujita
  • Journal Title: Proceedings of Parallel and Distributed Computing and Networks (PDCN2005), ACTA Press Pages: 228-233
• [Journal Article] PVFSを用いた計算機間MPI-I/O機能の実装と性能評価 (2005)
  • Author(s): 辻田 祐一
  • Journal Title: 情報処理学会研究報告 2005・19 Pages: 187-192
  • NAID: 110002775122
• [Journal Article] Flexible Intermediate Library for MPI-2 Support on an SCore Cluster System (2004)
  • Author(s): Yuichi Tsujita
  • Journal Title: Grid and Cooperative Computing, Lecture Notes in Computer Science, Springer 3033 Pages: 129-136
• [Journal Article] Implementation of an MPI-I/O Mechanism Using PVFS in Remote I/O to a PC Cluster (2004)
  • Author(s): Yuichi Tsujita
  • Journal Title: Proceedings of HPC Asia 2004,IEEE Computer Society Press Pages: 136-139
• [Journal Article] MPI-I/O with a Shared File Pointer Using a Parallel Virtual File System in Remote I/O Operations (2004)
  • Author(s): Yuichi Tsujita
  • Journal Title: Distributed and Parallel Systems, Cluster and Grid Computing, Kluwer International Series in Engineering and Computer Science, Springer 777 Pages: 47-54
• [Journal Article] Effective MPI-I/O in Remote I/O Operations Using a Multithreaded Mechanism (2004)
  • Author(s): Yuichi Tsujita
  • Journal Title: Parallel and Distributed Processing and Applications, Lecture Notes in Computer Science, Springer 3358 Pages: 34-43
• [Publications] Yuichi Tsujita: "Flexible Intermediate Library for MPI-2 Support on an SCore Cluster System"Proceedings of the 2nd International Workshop on Grid and Cooperative Computing. Vol. 2. 859-866 (2003)
• [Publications] 辻田 祐一: "異機種計算機間通信ライブラリStampiにおける非同期I/O操作"情報処理学会研究報告. Vol. 2004 No. 20. 151-156 (2004)