ハイブリッド混合精度処理によるエクサスケール反復解法ライブラリの開発
Project/Area Number |
22K12053
|
Research Category |
Grant-in-Aid for Scientific Research (C)
|
Allocation Type | Multi-year Fund |
Section | 一般 |
Review Section |
Basic Section 60090:High performance computing-related
|
Research Institution | Japan Atomic Energy Agency |
Principal Investigator |
伊奈 拓也 国立研究開発法人日本原子力研究開発機構, システム計算科学センター, 技術・技能職 (70943596)
|
Co-Investigator(Kenkyū-buntansha) |
井戸村 泰宏 国立研究開発法人日本原子力研究開発機構, システム計算科学センター, 室長 (00354580)
今村 俊幸 国立研究開発法人理化学研究所, 計算科学研究センター, チームリーダー (60361838)
|
Project Period (FY) |
2022-04-01 – 2025-03-31
|
Project Status |
Granted (Fiscal Year 2022)
|
Budget Amount *help |
¥3,900,000 (Direct Cost: ¥3,000,000、Indirect Cost: ¥900,000)
Fiscal Year 2024: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
Fiscal Year 2023: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
Fiscal Year 2022: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
|
Keywords | クリロフ部分空間法 / 混合精度演算 / SYCL / 高性能計算 |
Outline of Research at the Start |
「富岳」や「Summit」をはじめとする最先端スーパーコンピュータでは倍精度演算性能よりも低精度演算性能の方が数倍高く、最先端スーパーコンピュータの性能を引き出すためには低精度演算を活用した混合精度処理が重要である。しかしながら、低精度演算、特に、半精度演算はダイナミックレンジが狭く、実アプリケーションにおける精度低下や性能低下をもたらす可能性があるため、演算精度を適切に選択することが混合精度処理では必須である。本研究では、計算カーネル単位でデータ型と演算精度の組み合わせを可変に行うことで、演算精度の維持とメモリアクセスのコストを最小化した高速かつ数値安定な解法の開発を行う。
|
Outline of Annual Research Achievements |
2022年度はDOT、AXPY等の基本演算を対象として、半精度、単精度、倍精度、4倍精度によるデータ型と演算精度の任意の組み合わせを可能とするハイブリッド混合精度処理をSYCLにより実装して共役勾配法(CG法)に対して演算性能と演算精度の評価を行った。SYCLを採用することで単一のソースコードで様々なCPU/GPUアーキテクチャに対応可能となり、作業工数の削減を実現した。A64FX、Nvidia GPU、Intel CPU環境において、開発したSYCL版CG法コードの性能評価を実施した。その結果、従来のFortran、C/C++、CUDAコードと比較して半精度、単精度、倍精度、4倍精度で同程度の性能を得られることを確認した。また、ハイブリッド混合精度処理の検証をSuiteSparse Matrix Collectionの行列データに対して実施し、4倍精度演算+倍精度データ型を利用することで収束性が改善するケースを確認した。これにより実アプリの行列に対するハイブリッド混合精度処理の有効性を示した。これに加えて、半精度ヤコビ前処理における行列データの低精度変換による収束性悪化を回避する新たなデータ変換手法を開発した。ヤコビ法が収束するための十分条件は対角優位性であるが、ポアソン方程式の差分計算のような既約優対角の行列を低精度に変換すると丸め誤差により対角優位性が崩れてしまい、収束性が悪化する場合がある。そのため、対角優位性を維持するように対角要素の絶対値が大きくなる方向に丸め、非対角要素をゼロ方向に丸めるデータ変換を開発し、収束性の維持を実現した。この結果はHPC Asia 2023国際会議で発表され、Best Paper Finalistに選ばれた。
|
Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
2022年度においては、ハイブリッド混合精度処理に対応したCG法コードの実装にSYCLを採用したことで、単一コードにより複数環境への対応が可能となった。SYCL版CG法コードは従来コードと同程度の性能が得られることを確認できており、当初計画と比較して作業工数の減らすことができたため、「おおむね順調に進展している。」と判断する。
|
Strategy for Future Research Activity |
2023度はCG法以外のクリロフ部分空間法をSYCLで実装する。また、直交化手法、通信削減アルゴリズム、反復改良法等にハイブリッド混合精度処理を適用して高速化と数値安定性について検証を進める。
|
Report
(1 results)
Research Products
(3 results)