• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2019 Fiscal Year Research-status Report

HPCの視点に基づくテンソル分解アルゴリズムの高性能化

Research Project

Project/Area Number 18K18058
Research InstitutionHokkaido University

Principal Investigator

深谷 猛  北海道大学, 情報基盤センター, 助教 (30633846)

Project Period (FY) 2018-04-01 – 2021-03-31
Keywordsテンソル分解 / 高性能計算 / 線形計算アルゴリズム
Outline of Annual Research Achievements

昨年度に引き続き,テンソル分解とそれに関連する計算手法について,高性能計算の視点に基づいて研究を実施した.主な内容は以下の通りである.
1)2018年度の研究により,MTTKRPと呼ばれる計算カーネルのスレッド並列化が,基本的なテンソル分解における性能に大きな影響を与えることが確認された.そこで,スレッド並列版の密行列ライブラリ(BLAS)を用いる実装,逐次版BLASを並列に実行する実装,Batched BLASと呼ばれる並列BLASを用いる実装を行い,最新のマルチコアCPU環境で性能を検証した.その結果,MTTKRPにおいてテンソルを行列化する際のモードに応じて,最適な実装が異なることが明らかになり,最適な実装を選択することで,素朴な実装に比べて,MTTKRPの計算時間を大きく削減することが可能となることを示した.本研究で得られた成果は,国内の会議で報告し,関連分野の研究者から,有益なコメントを受けた.
2)テンソルを行列化した際に生じるような,非常に縦長な行列のQR分解(Tall-Skinny QR)に関して,悪条件な場合にも対応可能な,高性能なアルゴリズムであるShifted CholeskyQR法の研究を行った.2019年度は,特に,最先端の計算機環境(Oakforest-PACSシステムの数千ノードを用いた並列計算など)における有効性を検証し,従来の計算手法に対する優位性をより明確にすることができた.また,本研究の成果をまとめた論文が,SIAM Journal on Scientific Computingに掲載された.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

初年度に得られた知見に基づいて,研究を継続して実施しており,テンソル分解の計算の高性能化のための課題を順番に解決している.比較的新しい話題で,先行研究も少ないため,論文発表までは到達していないが,有意義な結果は着実に得られている.また,これまでの行列計算の研究の経験を生かして,テンソル分解と関連する行列計算の研究を並行して行っており,こちらについては,応用数学分野の主要論文誌の一つに,研究成果の論文が掲載された.以上の状況を踏まえて,全体として,おおむね順調に進展していると判断する.

Strategy for Future Research Activity

本研究課題の最終年度として,これまでのテンソル分解(主にMTTKRPの計算)に関する研究成果を深化させて,論文として報告することが,2020年度の主な目標となる.また,本研究課題で用いているプログラムコードを整理して,第三者が利用できるような形で整備・公開することも重要な実施項目である.

Causes of Carryover

年度末に参加を予定していた会議が急遽キャンセルとなり,その旅費の分が未使用となった.当該分については,最終年度に参加予定の会議の旅費として使用する予定であるが,会議の開催状況が不透明であるため,論文の英文校正や掲載料として使用することも検討している.

  • Research Products

    (6 results)

All 2020 2019

All Journal Article (1 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 1 results,  Open Access: 1 results) Presentation (5 results) (of which Int'l Joint Research: 2 results)

  • [Journal Article] Shifted Cholesky QR for Computing the QR Factorization of Ill-Conditioned Matrices2020

    • Author(s)
      Takeshi Fukaya, Ramaseshan Kannan, Yuji Nakatsukasa, Yusaku Yamamoto, Yuka Yanagisawa
    • Journal Title

      SIAM Journal on Scientific Computing

      Volume: 42 Pages: A477~A503

    • DOI

      10.1137/18M1218212

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Presentation] Shifted CholeskyQR3 for High Performance Tall-Skinny QR Factorization2020

    • Author(s)
      Takeshi Fukaya, Ramaseshan Kannan, Yuji Nakatsukasa, Yusaku Yamamoto, Yuka Yanagisawa
    • Organizer
      2020 SIAM Conference on Parallel Processing for Scientific Computing (SIAM PP20)
    • Int'l Joint Research
  • [Presentation] テンソル分解におけるMTTKRPのスレッド並列化に関する考察2019

    • Author(s)
      深谷 猛
    • Organizer
      第24回計算工学講演会
  • [Presentation] ALS法を用いた密テンソルのCP分解におけるMTTKRPの性能評価2019

    • Author(s)
      深谷 猛
    • Organizer
      The 3rd cross-disciplinary Workshop on Computing Systems, Infrastructures, and Programming (xSIG2019)
  • [Presentation] HPC視点に基づくテンソル分解アルゴリズムの高性能化2019

    • Author(s)
      深谷 猛
    • Organizer
      第11回 自動チューニング技術の現状と応用に関するシンポジウム(ATTA2019)
  • [Presentation] Recent progress of the Cholesky QR factorization2019

    • Author(s)
      Takeshi Fukaya
    • Organizer
      2019 Mini-Workshop on Computational Science (MWCS2019)
    • Int'l Joint Research

URL: 

Published: 2021-01-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi