SMPクラスタシステムにおけるハイブリッド並列プログラミングの性能評価

2000 Fiscal Year Annual Research Report

• Project/Area Number: 12680327
• Research Institution: University of Tsukuba
• Principal Investigator: 朴 泰祐 筑波大学, 電子・情報工学系, 助教授 (90209346)
• Co-Investigator(Kenkyū-buntansha): 中村 宏 東京大学, 先端科学技術センター, 助教授 (20212102)
• Keywords: ハイブリッドプログラミング / SMPクラスタ / MPI / OpenMP

Research Abstract

本年度における研究では、小規模なSMP構成のパーソナルコンピュータを複数台、ネットワーク結合することにより、分散メモリと共有メモリの両者のアーキテクチャ的特性を持つSMP-PCシステムを構築し、その上で数種類の典型的な科学技術計算問題に対するハイブリッドプログラミングを行った。用いたPCシステムは4プロセッサ及び2プロセッサ構成のPentium-IIIベースパーソナルコンピュータで、ネットワークは800Mbps Myrinet及び100Mbps Ethernetを用いた。並列数値計算の代表的ベンチマークであるNAS Parallel Benchmarkによる性能測定を行った。
ハイブリッドプログラミングにおいては、元々MPIメッセージパッシングライブラリで記述されているベンチマークプログラムに対し、各並列プロセス内をさらにスレッドによって共有メモリ並列化し、総合性能を測定した。SMP上のスレッドレベル並列化にはPOSIX threadによる明示的なプログラミングと、OpenMPによる簡素化されたものを両方用いた。また、従来のメッセージパッシングのみを用いた場合と、ハイブリッドプログラミングとの比較も行った。
性能評価の結果、ハイブリッドプログラミングはメッセージパッシングのみの場合に比べ、全般的には性能が向上するものの、一部のプログラムではむしろ性能が逆転する場合もあることがわかった。その主たる原因は、OpenMPによるスレッドプログラミングでは、データの局所性を陽に記述できず、MPIに比べてキャッシュヒット率の点でマイナスになる場合が挙げられる。以上の結果はハイブリッドプログラム中で、プロセッサの性能カウンタを積極的に参照するライブラリを構築し、それを用いた詳細な測定による。

Research Products

• [Publications] T.Boku,K.Itakura,S.Yoshikawa,M.Kondo and M.Sato: "Performance Analysis of PC-CLUMP based on SMP-Bus Utilization"Proceedings of WCBC'00(Workshop on Cluster Based Computing 2000). (2000)
• [Publications] M.Kondo,H.Okawara,H.Nakamura,T.Boku and S.Sakai: "SCIMA : A Novel Processor Architecture for High Performance Computing"Proceedings of HPC Asia'2000. 355-360 (2000)
• [Publications] 板倉憲一,早川秀利,近藤正章,吉川茂洋,朴泰祐,佐藤三久,田中良夫: "メモリバスアクセス率に基づくSMP-PCクラスタの性能評価"情報処理学会論文誌ハイパフォーマンスコンピューティングシステム. Vol.41,No.SIG5(HPS1). 70-79 (2000)
• [Publications] 松原正純,沼寿隆,板倉憲一,朴泰祐: "分散メモリ型超並列計算機における並列入出力"情報処理学会論文誌ハイパフォーマンスコンピューティングシステム. Vol.41,No.SIG5(HPS1). 58-69 (2000)
• [Publications] 中村宏,近藤正章,大河原英喜,朴泰祐: "ハイパフォーマンスコンピューティング向けアーキテクチャSCIMA"情報処理学会論文誌ハイパフォーマンスコンピューティングシステム. Vol.41,No.SIG5(HPS1). 15-27 (2000)
• [Publications] 松原正純,沼寿隆,板倉憲一,朴泰祐: "分散メモリ型並列計算機における並列入出力システム"並列処理シンポジウムJSPP′2000論文集. 75-82 (2000)