2016 Fiscal Year Research-status Report
高性能・省電力な計算のための短尺浮動小数点表現の検討
| Project/Area Number |
16K16062
|
|---|
| Research Institution | Institute of Physical and Chemical Research |
|---|
Principal Investigator |
椋木 大地 国立研究開発法人理化学研究所, 計算科学研究機構, 特別研究員 (90742289)
|
|---|
| Project Period (FY) |
2016-04-01 – 2018-03-31
|
| Keywords | Reduced-precision / 浮動小数点 / GPU |
|---|
| Outline of Annual Research Achievements |
本研究ではIEEE形式よりもビット長の短い短尺浮動小数点形式の実現方法を検討し，基本的な計算カーネルにおける性能評価を通して，その有効性を明らかにすることが目的である．
平成28年度はGPUを対象に，短尺浮動小数点形式の実装方法と，基本的な線形計算カーネルに適用した場合の性能を検討した．まず，これまでに試作を行った短尺浮動小数点形式の実装について，簡易的な最近接偶数丸めを実装するなどの改良を施し，これを用いて性能がメモリ律速となると考えられる幾つかの計算カーネルへの適用を行った．そしてコンシューマ向け，HPC向け，エンベデッド向けの3種類のGPUデバイスにおいて性能を評価した．うち前者2つについては電力性能についても評価を行った．その結果，単純なベクトル演算や行列ベクトル積においては，短尺形式の使用による実行時間の削減と，それによる電力性能の改善が確認できた．一方で，疎行列ベクトル積などの比較的メモリアクセスが複雑な処理においては，期待した効果が得られないケースが多く見られた．性能の詳細分析が今後の課題となった．本成果については，国際学会におけるポスター発表を行った．また国際学会および国内イベントの口頭発表の一部において本研究の成果を紹介し，幾つかのフィードバックを得た．一方で，本年度は実アプリケーションへの応用を視野に，桁数を必要としないとされる海洋シミュレーションのカーネルコード（GPU）への適用を検討を行った．
|
| Current Status of Research Progress |
Current Status of Research Progress
3: Progress in research has been slightly delayed.
Reason
平成28年度の当初計画では，x86等のSIMDプロセッサにおける実装方法の検討，またより多種類の計算カーネルにおける性能評価を実施する予定であったが，これらを達成できていない．計画通りに進まなかった原因としては，電力性能の測定方法に関するノウハウが不足していたため評価方法の確立に時間を費やしたこと，一部カーネルの実装に時間を要したことが挙げられる．一方でその他については概ね計画通り実施している．
|
| Strategy for Future Research Activity |
平成29年度は主としてMPI通信への適用と分散並列プログラムにおける性能評価を行う予定である．通信データ量の削減による性能向上が見込める事例として，行列の再分散を伴う通信削減型の行列積実装への適用を検討している．実装と評価を行う一方で，これまでに実装したGPU向けプログラムも含めて，性能のモデル化によりデータ転送コストの削減が性能改善に繋がるケースを理論的に示したいと考えている．
|
| Causes of Carryover |
次年度使用額は今年度予算の3%程度であり，ほぼ計画通りに執行されたと考えている．
|
| Expenditure Plan for Carryover Budget |
次年度の出張費用等に活用する．
|
