2019 Fiscal Year Research-status Report
プロセス間負荷分散のための可変スレッド環境を提供する革新的なライブラリの開発
| Project/Area Number |
18K18059
|
|---|
| Research Institution | The University of Tokyo |
|---|
Principal Investigator |
河合 直聡 東京大学, 情報基盤センター, 特任助教 (80780791)
|
|---|
| Project Period (FY) |
2018-04-01 – 2021-03-31
|
| Keywords | 動的負荷分散 / ハイブリッド並列化 |
|---|
| Outline of Annual Research Achievements |
本研究ではMPIおよびOpenMPでハイブリッド並列化が施されたアプリケーションを対象に各プロセス間のロードバランシングを容易かつ低レイテンシで提供する手法の開発および評価を行っている。具体的にはプロセス毎に割り当てられるコア数をユーザーから与えられた無次元化されたパラメータに応じて動的に変更することを可能にする手法を提案している。本年度の成果では、複数のアプリケーションで評価を行い、一定の効果が得られることを確認した。一方で、性能向上が得られない条件があることも確認した。性能向上を得られない条件では、消費電力削減の方向性を模索している。
本研究は、並列化の際に並列単位での均衡な負荷分散が困難であり、そのままでは並列化による性能向上が得られないアプリケーションを対象としている。それらのアプリケーションでは並列化効率を上げるために、そのアプリケーションに特化した特殊な手法を採用するか、レイテンシが大きなタスク並列を採用することが一般的である。本研究では可変スレッド環境を提供するライブラリの開発により、対象のコードへの数行の挿入で低レイテンシな動的負荷分散を可能としている。
提案手法の効果を確かめるために、階層行列格納法および多色順序付けにって並列化されたICCG法、マルチグリッド前処理つきCG法での評価を主に行っている。これらのアプリケーションはプロセス毎の負荷を均衡にすることが本質的に困難なアプリケーションである。評価の結果、好条件下ではOakforest-PACSやOBCXスーパーコンピュータで10~25％程度の性能向上が得られることを確認した。一方で悪条件化では数％程度しか性能向上を得ることができなことも確認している。現在はこの悪条件下では性能向上をさせるのではなく、計算時間を伸ばさずに消費電力を削減する方向を模索しており、一定の効果を確認している。
|
| Current Status of Research Progress |
Current Status of Research Progress
3: Progress in research has been slightly delayed.
Reason
本年度の目標は提案手法の様々なアプリケーションでの評価およびノード間の負荷分散を均衡化するプロセスマッピングの開発としていた。実際にはいくつかのアプリケーションでの評価およびその傾向の確認が終わり、問題点が出てきたが、同時に新たな方向性の検討も進めることができている。一方で負荷を均衡化するプロセスマッピングの開発は現在実施中であり、こちらは遅れている。昨年度の遅れを取り戻すほどの成果は出せず、全体としてやや遅れていると判断するが、本年度の結果としては概ね順調と判断する。
本提案手法で性能向上が得られるかどうかは主にアプリケーションのByte/Flopと計算機のメモリバンド幅に大きく影響することが本年度実施した評価により判明した。本提案手法はコア毎の演算量やメモリアクセス量を均衡化するものであり、性能がコアの性能によって決まっている場合は提案手法により負荷の均一化がなされ、十分な性能向上が得られる。一方で、メモリバンド幅で決まるアプリケーションではバンド幅だけで性能がきまっているため、提案手法による性能向上があまり望めないことがわかった。このようなアプリケーションでは、性能がメモリバンド幅依存であるために、逆にプロセス毎に割り当てられたコア数を演算量に応じて減らしても演算時間が変わらないことが新たにわかり、これにより消費電力の削減が可能である。
同時に実施しているノード間の負荷分散を均衡化するプロセスマッピングについては現在実装中である。
|
| Strategy for Future Research Activity |
本年度では新たな方向性として検証している消費電力削減および昨年度に実装中としているノード間の負荷分散を均衡化するプロセスマッピングを中心に行っていく。また、さらに異なるアプリケーションでの評価も並行して行って行く予定である。
消費電力の測定に関しては現在大規模なシステムでこれを行うことが難しいため、小規模なシステムで行って行く予定である。適切なプロセスマッピングを提供するライブラリの実装に関しては、大規模並列環境は必須であるため、引き続きスーパーコンピュータを用いてこれを行っていく。提案書では挑戦的な課題として提案していた、自動的にプロセスを再配置する環境の実装に関してはそれ以外の内容の進捗に合わせて着手していく予定である。
対外発表に関しては現在十分に行えていないため、これは優先的なタスクとして行っていく予定である。
|
| Causes of Carryover |
昨年度は情報収集や対外発表のための出張をキャンセルしたためいくらかの自年度使用額が発生した。
本年度はキャンセル分の対外発表も実施する予定であり、こちらに使用する予定である。
|
