• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2022 Fiscal Year Research-status Report

ハイブリッド混合精度処理によるエクサスケール反復解法ライブラリの開発

Research Project

Project/Area Number 22K12053
Research InstitutionJapan Atomic Energy Agency

Principal Investigator

伊奈 拓也  国立研究開発法人日本原子力研究開発機構, システム計算科学センター, 技術・技能職 (70943596)

Co-Investigator(Kenkyū-buntansha) 井戸村 泰宏  国立研究開発法人日本原子力研究開発機構, システム計算科学センター, 室長 (00354580)
今村 俊幸  国立研究開発法人理化学研究所, 計算科学研究センター, チームリーダー (60361838)
Project Period (FY) 2022-04-01 – 2025-03-31
Keywordsクリロフ部分空間法 / 混合精度演算 / SYCL
Outline of Annual Research Achievements

2022年度はDOT、AXPY等の基本演算を対象として、半精度、単精度、倍精度、4倍精度によるデータ型と演算精度の任意の組み合わせを可能とするハイブリッド混合精度処理をSYCLにより実装して共役勾配法(CG法)に対して演算性能と演算精度の評価を行った。SYCLを採用することで単一のソースコードで様々なCPU/GPUアーキテクチャに対応可能となり、作業工数の削減を実現した。A64FX、Nvidia GPU、Intel CPU環境において、開発したSYCL版CG法コードの性能評価を実施した。その結果、従来のFortran、C/C++、CUDAコードと比較して半精度、単精度、倍精度、4倍精度で同程度の性能を得られることを確認した。また、ハイブリッド混合精度処理の検証をSuiteSparse Matrix Collectionの行列データに対して実施し、4倍精度演算+倍精度データ型を利用することで収束性が改善するケースを確認した。これにより実アプリの行列に対するハイブリッド混合精度処理の有効性を示した。これに加えて、半精度ヤコビ前処理における行列データの低精度変換による収束性悪化を回避する新たなデータ変換手法を開発した。ヤコビ法が収束するための十分条件は対角優位性であるが、ポアソン方程式の差分計算のような既約優対角の行列を低精度に変換すると丸め誤差により対角優位性が崩れてしまい、収束性が悪化する場合がある。そのため、対角優位性を維持するように対角要素の絶対値が大きくなる方向に丸め、非対角要素をゼロ方向に丸めるデータ変換を開発し、収束性の維持を実現した。この結果はHPC Asia 2023国際会議で発表され、Best Paper Finalistに選ばれた。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

2022年度においては、ハイブリッド混合精度処理に対応したCG法コードの実装にSYCLを採用したことで、単一コードにより複数環境への対応が可能となった。SYCL版CG法コードは従来コードと同程度の性能が得られることを確認できており、当初計画と比較して作業工数の減らすことができたため、「おおむね順調に進展している。」と判断する。

Strategy for Future Research Activity

2023度はCG法以外のクリロフ部分空間法をSYCLで実装する。また、直交化手法、通信削減アルゴリズム、反復改良法等にハイブリッド混合精度処理を適用して高速化と数値安定性について検証を進める。

Causes of Carryover

新型コロナウイルス感染症流行の影響を受けて、学会発表がオンライン開催となり、当初計画よりも支出額が少なくなったことから次年度使用額が生じた。次年度使用額は、2023年度分研究費と合わせて、成果発表に係る費用や2022年度に試作したSYCL版コードの有効性を最新アーキテクチャのCPU/GPUでテストするために必要となる主要な大型計算機センター、クラウドサービス等の計算リソースの購入に係る費用として使用する。

  • Research Products

    (3 results)

All 2023 2022

All Journal Article (1 results) (of which Peer Reviewed: 1 results) Presentation (2 results)

  • [Journal Article] A new data conversion method for mixed precision Krylov solvers with FP16/BF16 Jacobi preconditioners2023

    • Author(s)
      Ina Takuya、Idomura Yasuhiro、Imamura Toshiyuki、Onodera Naoyuki
    • Journal Title

      HPC Asia 2023

      Volume: 1 Pages: 29-34

    • DOI

      10.1145/3578178.3578222

    • Peer Reviewed
  • [Presentation] 多相CFDシミュレーションにおける悪条件行列に対するGPU向けBFloat16精度前処理の検証2022

    • Author(s)
      伊奈 拓也,井戸村 泰宏,今村 俊幸,山下 晋,小野寺 直幸
    • Organizer
      第185回ハイパフォーマンスコンピューティング研究発表会
  • [Presentation] CPU+GPU混成システム上の固有値計算ソルバー の現状調査と性能評価2022

    • Author(s)
      今村 俊幸,伊奈 拓也,廣田悠輔,井戸村 泰宏
    • Organizer
      第187回ハイパフォーマンスコンピューティング研究発表会

URL: 

Published: 2023-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi