Research Project
Grant-in-Aid for Research Activity Start-up
本研究では，固有値問題や特異値分解に対する高速・高精度・高信頼な混合精度数値計算法の開発を実施する．日々進化する機械学習モデルを高速処理できるように，近年のアーキテクチャには高性能な低精度行列乗算装置が搭載されている．それらを巧く活用することで，近未来以降も活躍できる数値計算法を創成する．数値計算結果の精度・信頼性はシミュレーション結果に大きく影響するため，高速性だけでなく高精度性・高信頼性を考慮することも重要である．
