GPUにおけるプログラムの最適化手法の開発

2017 Fiscal Year Research-status Report

• Project/Area Number: 16K00170
• Research Institution: The University of Electro-Communications
• Principal Investigator: 本多 弘樹 電気通信大学, 大学院情報理工学研究科, 教授 (20199574)
• Project Period (FY): 2016-10-21 – 2019-03-31
• Keywords: 並列処理

Outline of Annual Research Achievements

本研究課題は，高性能・低消費電力なGPUコンピューティングを実現するシステム構築を目指し，アプリケーションプログラムのGPUでの効率良い並列実行に必要となる，タスク分割，スケジューリング，データ転送等の最適化手法を明らかするとともに，これらを種々GPUプログラミング環境で適用するための方式を開発することを試みるものである．

２年目の平成２９年度の研究計画では， 最適化項目の検討を進めることとしていた．具体的には，最適化項目としてタスク分割最適化，タスク割当最適化，データ転送最適化，カーネル関数内最適化，メモリ最適化を当初の候補とし，これに加えてGPUプログラムの実システム上での実行時間及び消費電力の測定により最適パラメタの同定を行うこととしていた．またGPUテストベッドシステムを構築するとともに，必要となるソフトウエアの導入，消費電力測定機構の実装などを行い有効性検証環境の整備を行うこととしていた．

これに対し，複数のGPUを用いる並列GPUコンピューティングにおいて実行する並列プログラムの消費電力を考慮に入れて上記項目の最適化を行うためには，個々のGPUの消費電力特性を明らかにする必要がある点に着眼した．また，GPUの消費電力特性を明らかにするに際して，同一GPUを複数備えるシステムでのプログラム実行特性の測定を実施した．具体的には，東京大学のGPUを備えた大規模HPCシステムを用いてプログラムの特性測定のための環境構築を進めるとともに，ローカルなGPUテストベッドシステムを構築した．その結果， GPUにおける消費電力を考慮した最適化においては，個々のGPUの消費電力特性を基に最適化を行うことが必要であることを明らかにし本研究で対象とすべき項目とした．

Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

本研究課題の目的では，GPUプログラムの実行時間短縮及び消費電力低減を目指し次の点に重点をおくこととしていた．
1.タスク分割・割当の最適化：マルチGPU 環境において並列ネステッドループを分割して複数タスクとする際に，最適なタスク粒度，割当先(CPU，GPU，複数GPU)を決定するための最適化手法を明らかにする．
2.データ転送最適化：GPU を利用するに当たっては，CPU-GPU 間，および，GPU-GPU 間でのデータ転送が処理性能に大きな影響を及ぼすため，転送データ量の削減，転送回数の削減が求められる．本研究では真に必要なデータのみを転送する最適化手法，テータ転送と演算をオーバーラップさせる最適化手法，タスク分割・割当の工夫などにより転送回数を低減するための最適化手法を明らかにする．
3.カーネル関数内最適化：カーネル関数の実行性能は，使用するブロック数，スレッド数，レジスタ数，データが配置されるメモリ選択，メモリアクセスパターンなどによって大きな影響を受ける．それぞれのプログラムに応じて最適化を行うための手法を明らかにする．
これに対し，本年度は大目標である消費電力低減に向けての必要事項について優先的に取り組んだ．具体的には，実システム上での複数GPUを用いた並列プログラム特性の測定方法の検討，測定環境の構築整備，実システム上でのベンチマークプログラムを用いてのプログラム実行特性の測定，プログラム実行特性を基にした最適化手法の考案を進めた．また，評価に用いるテストベッドシステムに求められる機能の性差とその仕様を策定し，その一部の調達を行った．以上より，研究はおおむね順調に進展していると判断できる．

Strategy for Future Research Activity

当初の計画通り，本年度の結果をもとに，GPUの消費電力を考慮した最適化手法の考案とその評価，手法を実現するソフトウェアモジュールの実装を進める．今後の研究推進の具体的方策は次の通りである．
1.GPUの消費電力を考慮した最適化方式の考案とそれを実装したソフトウェアモジュールを，本補助金で構築したGPUテストベッドシステム上でベンチマークプログラムや実アプリケーションプログラムでの有効性の検証を進める．
2.前述の検証をもとに，それぞれの最適化手法において，さらなる最適化の余地がないかも検討を進める．
3.当初計画で対象としていた最適化機能だけではなく，実アプリケーションに即した最適化機能をも視野に入れる．
4.各機能の実装については優先順位を決め，進捗が思わしくない場合には，重要な機能の実装に絞るなど対処する．

Causes of Carryover

(理由)
開発・評価に用いるテストベッドシステムの一部を最新の機器とするため．
(使用計画)
次年度にテストベッドシステムの一部の構築に使用する．