2021 Fiscal Year Research-status Report
大規模並列計算機用高精度演算環境の構築と演算精度自動チューニングの研究
| Project/Area Number |
18K11340
|
|---|
| Research Institution | Kogakuin University |
|---|
Principal Investigator |
田中 輝雄 工学院大学, 情報学部(情報工学部), 教授 (90622837)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
長谷川 秀彦 筑波大学, 図書館情報メディア系, 教授 (20164824)
|
|---|
| Project Period (FY) |
2018-04-01 – 2023-03-31
|
| Keywords | 高精度計算 / 大規模並列処理 / 自動チューニング / AVX-512 |
|---|
| Outline of Annual Research Achievements |
本研究の課題について、それぞれ研究実績を項目ごとにまとめる。
(a)高並列計算機用高精度演算環境の構築として、①倍々精度演算ライブラリのAVX-512への対応については、複数の混合制度で共通関数による対応を行い、完了とする。②GMP向けMPIコード自動生成に関しては、今年度の進捗はない。③大規模並列計算機用高精度演算環境における通信量削減方式の実現については、通常精度にて実現したRDMA通信およびセマフォによる同期処理の削減によるデータ通信手法に対して、東京大学のODCXならびに名古屋大学の不老を用いて評価した結果を国際会議で２件、発表した。
(b)④高精度並列計算アルゴリズムの開発としては２件の検討を行なった。まず、ベクトルデータの格納方式であるAoSとSoAについて比較分析を行い、従来、SoAのほうがすぐれていると考えられていたが、キャッシュに入りきらないサイズでは性能に差がなく、使い勝手の良いAoSでも充分であることを示した。また、GPUを用いた計算において、従来から主流であったCUDAでの記述方法に対し、近年、ディレクティブベースの記述方法が実現されており、性能面から評価を行った。その結果、ディレクティブベースでも性能を引き出すことができていること、ただし、既定値で設定されているパラメタでは最適化が十分でなく、パラメタの最適化が必要であることがわかった。⑤自動チューニング技術の適用として、複数個所の同時性能パラメタチューニング手法を提案した。また、機械学習など、半精度を含めた混合精度演算が重要となる分野に対する適用を試みた。
研究成果の公開として、④に対して、情報処理学会全国大会(2022.3)で２件発表を行った。内１件は学生奨励賞を受賞した。⑤に対してｍ国際学会２件、国内学会では２件発表を行った。内１件は情報処理学会全国大会(2022.3)で学生奨励賞を受賞した。
|
| Current Status of Research Progress |
Current Status of Research Progress
3: Progress in research has been slightly delayed.
Reason
研究実績の概要に示したように、課題①-⑤については、個別に研究をすすめているが、特に、④と⑤を組み合わせることにより、目標を達成する成果が期待できる。
また、外部識者との議論があまりできておらず、公開まではいかなかったが、実質、改良ならびに評価は進められている。
課題⑤については、自動チューニングに適用するべき項目が明らかになってきたが、まだ，通常精度の範囲であり、高精度のみならず、半精度の扱いも含め、実装と実証実験が十分でない。
|
| Strategy for Future Research Activity |
今年度まで得られた成果をもとに、さらに、成果を実現するための実装ならびに実証実験を進める。また、それを国内外に発表による外部識者からのフィードバックを受けることを薦める。課題については、AoS/SoAデータ構造の比較、あるいは、近年実用化が進んでいるディレクティブ方式によるGPU利用による高精度演算への適用などを進めていく。
|
| Causes of Carryover |
コロナ禍のため，必要な発表等を行うことができなかったため．
|
