2015 Fiscal Year Research-status Report
CPU/GPU混在環境におけるタイルLU分解アルゴリズムの実行時自動チューニング
| Project/Area Number |
26400197
|
|---|
| Research Institution | University of Yamanashi |
|---|
Principal Investigator |
鈴木 智博 山梨大学, 総合研究部, 准教授 (70235977)
|
|---|
| Project Period (FY) |
2014-04-01 – 2017-03-31
|
| Keywords | タイルアルゴリズム / タイルサイズチューニング / CPU-GPU実装 / LU分解 / ピボット選択 / ハイパフォーマンスコンピューティング |
|---|
| Outline of Annual Research Achievements |
平成27年度は 1「性能モデル構築」、2「チューニング機構」、3「ピボット選択、評価」について検討する予定であった。
1 について、前年度から実行環境の並列計算資源に対して十分な量のタスク数を保証することをタイルサイズチューニングの方針とした。新たにタスク数の指標となる量を導入し、チューニングを行うことで共有メモリ環境において行列サイズ、並列計算資源に応じた速度の意味で最適に近いタイルサイズを高速に設定可能となった。昨年度の実施報告に示した方針通りに研究を遂行できた。
2 について、前年度に他の処理とオーバーラップさせることで十分に短い時間でタイルサイズの変更が行えることを確認したが、タイルサイズを適応的に変更する方法の検討が進んでいない。1のタイルサイズチューニング手法は事前の予備実行により得られる情報が必要であるが、少ない手間で最適に近いタイルサイズを得ることができる。実行時チューニングの意義についての検討が必要である。昨年度の実施報告に挙げたCPUとGPUで最適なタイルサイズが異なる問題に対応する手法として、GPU向きの比較的大きなタイルを、CPU向きに細分する再帰的タイル分割アルゴリズムを実装した。
3 について、トーナメント方式によるピボット選択は性能上の大きなボトルネックとなってしまい、特に分散メモリ環境では実用的な実装が得られていない。ピボット選択のようなリダクション演算を分散メモリ環境上で効率的に行うために、昨年度の実施報告の方針通り、幾つかの基本的な手法を実装し評価実験を行った結果、トーナメント方式のような二分木構造よりも、リスト構造の方がリダクション演算を高速に行える可能性があることが分かった。
平成27年度は、5件の口頭発表を行い、このうち1件は査読付き国際会議である。
|
| Current Status of Research Progress |
Current Status of Research Progress
3: Progress in research has been slightly delayed.
Reason
2「チューニング機構」について、前年度に性能モデル構築について方針変更を行い、今年度は共有メモリ向けには高速なタイルサイズチューニング手法を確立できた。しかし、前述のとおり、この手法では、当初目的であった実行時自動チューニングという目標には近づいていない。ただし、予備実行のコストは比較的小さく、ほぼ最適なタイルサイズを得ることができる。チューニングと本実行の全体的なコストについての議論がなされていないため、現在の手法の有効性、優位性の評価が遅れている。CPUとGPUで最適なタイルサイズが異なる問題に対応する手法として再帰的タイル分割アルゴリズムを実装したことで、それぞれのアーキテクチャを有効に利用した実装が得られていることは大きな前進である。
3「ピボット選択、評価」について、トーナメント方式によるピボット選択の実用的な実装が未だ得られていない。前述の通り、幾つかの評価実験を行った結果、トーナメント方式のような二分木構造よりも、リスト構造の方がリダクション演算を高速に行える可能性があることが分かったが、この結果をふまえた実装を急がなければならない。
|
| Strategy for Future Research Activity |
当初の平成28年度研究計画は 1「チューニング機構」の完成、および 2「性能評価」を実施するものであった。
1 について、タスク数の指標を導入したチューニング手法と実行時に適応的にタイルサイズを変更する手法について、全体的なコストについて議論し、各手法の有効性の評価を行わなければならない。当初の平成28年度計画では、実行時自動チューニングで十分な性能が得られない場合に検討するべき項目に、タスクスケジューリング方式の検討とCPUとGPUで異なるサイズのタイルを適用することが挙げられていた。後者については平成27年度に既に実装を済ませているので、前者についての検討を行う。具体的には、OpenMP Ver. 4.0 から導入された新しい機構を使った動的なスケジューリングを実装する。動的スケジューリング自体は既に導入済みであるが、この機構を使うことで、複雑なデータ依存性を簡潔に表現できるため、プログラム生産性の向上が期待できる。
平成27年度は「ピボット選択、評価」について進捗の遅れがあるため、特に分散メモリ環境で、既に行われた評価実験結果をふまえて、効果的な実装を目指す。
以上について、検討、実装を行った上で、2「性能評価」を行う。
|
| Causes of Carryover |
平成26年度の物品費使用額が予定よりも少なかったので、これを平成27年度の旅費に繰り越したが、引き続き次年度使用額を発生させてしまった。
|
| Expenditure Plan for Carryover Budget |
次年度使用額はすべて平成28年度の旅費に上乗せする。
|
