2017 Fiscal Year Annual Research Report
Development of Persistent Collective Communication Interface for MPI
| Project/Area Number |
15K00172
|
|---|
| Research Institution | Kyushu University |
|---|
Principal Investigator |
南里 豪志 九州大学, 情報基盤研究開発センター, 准教授 (70284578)
|
|---|
| Project Period (FY) |
2015-04-01 – 2018-03-31
|
| Keywords | 並列計算 / MPI / 集団通信 / 動的最適化 |
|---|
| Outline of Annual Research Achievements |
大規模な科学技術計算における事実上標準の通信インタフェース規格である MPI (Message Passing Interface)では、現在、新しい通信インタフェースとして、Persistent型集団通信の仕様策定に向けた議論が進んでいる。この通信は、全プロセスが参加する集団通信について、その準備処理、開始処理、および完了確認を、それぞれ独立した関数とすることにより、何度も呼び出される集団通信について、準備処理を一回で済ませることが出来るため、通信に要する時間を大幅に短縮できる。
そこで本研究では、この Persistent型集団通信のプロトタイプとして準備型集団通信を実装し、効果を計測した。このプロトタイプは、プログラムの呼び出し位置毎に、集団通信の管理用データ構造を用意し、繰り返し再利用できる。また、集団通信の種類やデータサイズ、プロセス数だけでなく、負荷バランスに応じてアルゴリズムを選択する動的アルゴリズム選択機構により、呼び出し位置毎に最適なアルゴリズムを用いることが出来る。さらにこのプロトタイプは、実行中の負荷バランスの変動を検知し、アルゴリズムを再選択する機構を持つ。この、負荷バランス変動の検知機構は、片側通信を用いることにより、非同期かつ低オーバヘッドで実現できた。
このプロトタイプの効果を、九州大学の高性能演算サーバを使って評価し、実行中の負荷バランスの変化に対応できることを確認した。また、動的選択機構において、いくつかのアルゴリズムを試行する処理のオーバヘッドが問題となることがわかったため、性能予測モデルを用いて、明らかに遅いアルゴリズムを選択の候補から排除する機能を追加し、オーバヘッドの低減を確認した。
|
