• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2017 Fiscal Year Annual Research Report

A Novel Development of Auto-tuning Technologies for Communication Avoiding and Reducing Algorithms

Research Project

Project/Area Number 16H02823
Research InstitutionNagoya University

Principal Investigator

片桐 孝洋  名古屋大学, 情報基盤センター, 教授 (40345434)

Co-Investigator(Kenkyū-buntansha) 長尾 大道  東京大学, 地震研究所, 准教授 (80435833)
佐藤 雅彦  核融合科学研究所, ヘリカル研究部, 助教 (80455211)
田中 輝雄  工学院大学, 情報学部(情報工学部), 教授 (90622837)
Project Period (FY) 2016-04-01 – 2019-03-31
Keywords時空間ブロッキング / 自動チューニング / 性能モデル / 通信削減アルゴリズム / データ同化 / スレッド並列化 / メニーコア / マルチコア
Outline of Annual Research Achievements

本年度は、以下の3つの成果があった。
(1)通信削減を実現する時空間ブロッキングをデータ同化アルゴリズムに適用する、新しい通信削減方式および高性能実装技法の開発を行った。またそのアルゴリズムをMPIおよびOpenMPで実装を行い、複数のスーパーコンピュータ環境で性能評価を行った。その結果、どのような理由で通信削減アルゴリズムが機能するかが明らかとなった。
(2)性能パラメタを自動的に調整し対象プログラムの最適化を行う以下のAT方式の研究を行った。(I)性能パラメタの種類が増えるにしたがい組み合わせの数は増大する。そのため、複数の性能パラメタからなる離散空間上に初期点を決め、その周囲の離散点を調べ、探索方向を決定し、探索方向に対しd-Splineスプライン系の近似関数で線形探索を行う。その直線上で、最適値を推定する方式の改良を行った。(II)探索方向を段階的に増やす手順を考案した。4つの性能パラメタの組合せに対し、対象プログラムへの影響をほとんどなく最適な組み合わせを推定できることを検証した。(III)対象プログラムの実行時間のブレに対する対応を行った。OSの動作、他ユーザとの競合などにより、正当でない実測値が得られることがある。提案手法として、実測した結果が、d-Splineによる推定とかけ離れているときは正当でないことを疑って、そのときのみ再実測を行う手法を開発した。
(3)アプリケーション適用の観点から以下の研究を行った。二流体簡約化方程式に基づいた線形解析コードでは、 (x,y)平面におけるスラブプラズマを仮定し、x方向に中心差分により離散化し、y方向にはフーリエモード展開により離散化する手法の開発を行った。この計算コードは陰的時間積分法を用いた初期値コードとなっており、成長率が非常に小さな固有モードに対しても高速に計算結果を得る手法を開発した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

本年度の研究実施計画は、以下に示す、自動チューニング(AT)時間削減手法の開発と、戦略的な通信回避/通信削減(CA/CR)アルゴリズムの実装評価が主であった:(1)CA/CR用高性能実装開発フェーズ、(2)AT高度化フェーズ、(3)アプリケーション評価フェーズ。
本年に得られた対応する成果として、(1)CA/CRを実装した時空間ブロッキングをデータ同化に行ったアルゴリズムと高性能実装の開発、(2)d-splineを用いたAT手法に対する、探索次元を拡張しても効率的にATが行える新手法の開発、時空間ブロッキングの性能モデルの開発、および、新たなループ変換手法に基づくAT機能の開発、(3)アプリケーション適用評価として実用的なプラズマシミュレーションコードでの機能開発を行い、その有効性を評価した。
以上から、本年度設定した各実施計画に対する成果が出ているため、「おおむね順調に進展している」と評価できる。

Strategy for Future Research Activity

来年度以降、以下の項目を推進する。
1.AT高度化フェーズ:平成29年度に開発されたAT方式要素技術を取り入れ、さらなるAT機能の高度化を行い最終仕様の策定を行う。
2.アプリケーション適用評価フェーズ:平成29年度中期以降に設計された新AT仕様に基づき、疎行列反復解法ソルバXabclib、プラズマのシミュレーション、および、データ同化処理で必要となるCA/CR用のAT機能の検証をする。
3.開発コードの公開・保守フェーズ:ソースコードを公開する検討を行う。

  • Research Products

    (37 results)

All 2018 2017 Other

All Int'l Joint Research (1 results) Journal Article (10 results) (of which Peer Reviewed: 6 results) Presentation (25 results) (of which Int'l Joint Research: 12 results,  Invited: 6 results) Funded Workshop (1 results)

  • [Int'l Joint Research] 国立台湾大学/国立中央大学/国立成功大学(台湾)

    • Country Name
      その他の国・地域
    • Counterpart Institution
      国立台湾大学/国立中央大学/国立成功大学
  • [Journal Article] 時空間ブロッキングを用いたアジョイント法の高性能化 ~ForwardとBackward計算~2018

    • Author(s)
      池田朋哉、伊藤伸一、長尾大道、片桐孝洋、永井亨、荻野正雄
    • Journal Title

      情報処理学会論文誌:ACS

      Volume: 11 Pages: 12-26

    • Peer Reviewed
  • [Journal Article] D-Spline Performance Tuning Method Flexibly Responsive to Execution Time Perturbation2018

    • Author(s)
      G. Fan, A. Fujii, T. Tanaka, T. Katagiri
    • Journal Title

      Springer LNCS

      Volume: 10777 Pages: 381-391

    • Peer Reviewed
  • [Journal Article] Optimizing Forward Computation in Adjoint Method via Multi-level Blocking2018

    • Author(s)
      Tomoya Ikeda, Shin-ichi Ito, Hiromichi Nagao, Takahiro Katagiri, Toru Nagai, Masao Ogino
    • Journal Title

      Proc. of ACM International Conference on High Peformance Computing in Asia-Pacific Region (HPC Asia2018)

      Volume: - Pages: 98-107

    • Peer Reviewed
  • [Journal Article] 不確実性評価が可能な新しい4次元変分法2017

    • Author(s)
      長尾大道, 伊藤伸一
    • Journal Title

      地盤工学会誌

      Volume: Vol. 65, No. 10 Pages: 2-5

  • [Journal Article] タイルレベルの並列処理を可能とする時空間タイリング手法を用いた3次元FDTDカーネルの実装と性能評価2017

    • Author(s)
      深谷 猛、岩下 武史
    • Journal Title

      研究報告ハイパフォーマンスコンピューティング(HPC)

      Volume: 2017-HPC-160 Pages: 1 - 11

  • [Journal Article] Auto-tuning on NUMA and Many-core Environments with an FDM code2017

    • Author(s)
      Takahiro Katagiri, Satoshi Ohshima, Masaharu Matsumoto
    • Journal Title

      Proceedings of IEEE IPDPSW2017

      Volume: - Pages: 1399-1407

    • DOI

      10.1109/IPDPSW.2017.27

    • Peer Reviewed
  • [Journal Article] MPIと通信削減アルゴリズムによるアジョイント法の高性能化2017

    • Author(s)
      池田朋哉、伊藤伸一、長尾大道、片桐孝洋、永井亨、荻野正雄
    • Journal Title

      研究報告ハイパフォーマンスコンピューティング(HPC)

      Volume: 162-HPC-2017 Pages: 1-10

  • [Journal Article] 疎行列形状のカラー画像を入力としたディープラーニングによる数値計算ライブラリの自動チューニング方式2017

    • Author(s)
      山田賢也、片桐孝洋、永井亨、荻野 正雄
    • Journal Title

      研究報告ハイパフォーマンスコンピューティング(HPC)

      Volume: 162-HPC-2017 Pages: 1-10

  • [Journal Article] Fast Multidimensional Performance Parameter Estimation with Multiple One-Dimensional d-Spline Parameter Sea2017

    • Author(s)
      Masayoshi Mochizuki, Akihiro Fujii, Teruo Tanaka,
    • Journal Title

      Proceedings of IEEE IPDPSW2017

      Volume: - Pages: 1426-1433

    • Peer Reviewed
  • [Journal Article] Nonlinear parity mixtures controlling the propagation of interchange modes2017

    • Author(s)
      Sato M., Ishizawa A.
    • Journal Title

      Physics of Plasmas

      Volume: 24 Pages: 082501-082501

    • DOI

      10.1063/1.4993472

    • Peer Reviewed
  • [Presentation] 4次元変分法データ同化のための不確実性評価法2018

    • Author(s)
      長尾大道,伊藤伸一
    • Organizer
      第12回 日本統計学会春季集会
  • [Presentation] An introduction to a new method for solving wave equation and numerical demonstrations2018

    • Author(s)
      Toru Nagai
    • Organizer
      The Conference on Advanced Topics and Auto Tuning in High Performance Scientific Computing (ATAT2018)
    • Int'l Joint Research / Invited
  • [Presentation] Performance Evaluation of Tiled 3D FDTD Solver on Recent Multicore Processors2018

    • Author(s)
      Takeshi Iwashita and Takeshi Fukaya
    • Organizer
      SIAM Conference on Parallel Processing for Scientific Computing (SIAM PP18)
    • Int'l Joint Research
  • [Presentation] 自動チューニング言語 ppOpen-ATにおける新ループ変換手法の提案2018

    • Author(s)
      櫻井刀麻、片桐孝洋、永井亨、荻野正雄
    • Organizer
      情報処理学会第80回全国大会
  • [Presentation] ソフトウェア自動チューニングにおける反復一次元探索による複数性能パラメータ推定法の実装と評価2018

    • Author(s)
      関直人、望月大義、范谷瑛、藤井昭宏、田中輝雄、片桐孝洋
    • Organizer
      情報処理学会第80回全国大会
  • [Presentation] High Precision Computing of Matrix-Matrix Multiplications and a New Approach of Auto-Tuning to Numerical Libraries by Deep Learning2018

    • Author(s)
      Takahiro Katagiri, Shuntaro Ichimura and Kenya Yamada
    • Organizer
      SIAM Conference on Parallel Processing for Scientific Computing 2018 (PP18)
    • Int'l Joint Research
  • [Presentation] Auto-tuning of Preconditioner Selection for Sparse Iterative Solvers --- Adaptation of Deep Learning and its Limitations2018

    • Author(s)
      Takahiro Katagiri
    • Organizer
      Conference on Advanced Topics and Auto Tuning in High-Performance Scientific Computing (ATAT2018)
    • Int'l Joint Research / Invited
  • [Presentation] Low Cost Multiple One-dimensional d-Spline Parameter Search for Multiple Performance Parameter Estimation2018

    • Author(s)
      Teruo Tanaka, Masayoshi Mochizuki, Akihiro Fujii, Takahiro Katagiri
    • Organizer
      2018 Conference on Advanced Topics and Auto Tuning in High-Performance Scientific Computing (ATAT in HPSC 2018)
    • Int'l Joint Research / Invited
  • [Presentation] Latin Hypercube Designの3次元空間への拡張2018

    • Author(s)
      三輪恵律也,望月大義,藤井昭宏,田中輝雄
    • Organizer
      第80回情報処理学会全国大会
  • [Presentation] Communication-Avoiding CG Method2017

    • Author(s)
      Reiji Suda
    • Organizer
      Second International Workshop on Deepening Performance Models for Automatic Tuning (DPMAT)
    • Int'l Joint Research
  • [Presentation] Auto-tuning of directives: tuning directives of OpenMP and OpenACC2017

    • Author(s)
      Satoshi Ohshima
    • Organizer
      Second International WorkshoDeepening Performance Models for Automatic Tuning (DPMAT)
    • Int'l Joint Research
  • [Presentation] フェーズフィールド法への4次元変分法データ同化の展開2017

    • Author(s)
      長尾大道
    • Organizer
      第9回 自動チューニング技術の現状と応用に関するシンポジウム (ATTA2017)
    • Invited
  • [Presentation] Data assimilation for massive autonomous systems based on a second-order adjoint method2017

    • Author(s)
      Nagao, H. and S. Ito
    • Organizer
      Taiwan-Japan Joint Workshop on Inverse Problems in Kanazawa 2017
    • Int'l Joint Research / Invited
  • [Presentation] フェーズフィールドモデルに基づく4次元変分法データ同化2017

    • Author(s)
      長尾大道, 伊藤伸一
    • Organizer
      日本機械学会 第30回計算力学講演会
    • Invited
  • [Presentation] Data assimilation for massive autonomous systems based on a second-order adjoint method2017

    • Author(s)
      Nagao, H. and S. Ito
    • Organizer
      Asia Oceania Geoscience Society, 14th Annual Meeting
    • Int'l Joint Research
  • [Presentation] 時空間タイリングを用いた反復型ステンシル計算とその応用2017

    • Author(s)
      深谷猛, 岩下武史
    • Organizer
      日本機械学会 第30回計算力学講演会(CMD2017)
  • [Presentation] アジョイント法によるデータ同化における時空間ブロッキングの適用-メニーコア環境での性能評価-2017

    • Author(s)
      藤川隼人、池田朋哉、片桐 孝洋、永井 亨、荻野正雄
    • Organizer
      平成29年度 電気・電子・情報関係学会 東海支部連合大会
  • [Presentation] 数値計算ライブラリのためのディープラーニングによる自動チューニングの検討2017

    • Author(s)
      山田賢也、片桐孝洋、永井亨、荻野正雄
    • Organizer
      平成29年度 電気・電子・情報関係学会 東海支部連合大会
  • [Presentation] 自動チューニング言語ppOpen-ATの機能とオープンCAEへの展開2017

    • Author(s)
      片桐孝洋
    • Organizer
      オープンCAEシンポジウム2017
  • [Presentation] データ同化処理への時空間ブロッキング手法の適用と自動チューニング適用の一考察2017

    • Author(s)
      片桐 孝洋、池田 朋哉 、藤川 隼人
    • Organizer
      日本応用数理学会 2017年度年会
  • [Presentation] ディープラーニングによるカラー画像を用いた疎行列反復解法ライブラリの自動チューニング2017

    • Author(s)
      山田賢也、片桐孝洋
    • Organizer
      NVIDIA GPU Technical Conference in Japan 2017 (GTC Japan 2017)
  • [Presentation] Optimizing Forward and Backward computations in the adjoint method via Multi-level Blocking2017

    • Author(s)
      Tomoya Ikeda, Shin-ichi Ito, Hiromichi Nagao, Takahiro Katagiri, Toru Nagai, Masao Ogino
    • Organizer
      Second International Workshop on Deepening Performance Models for Automatic Tuning (DPMAT)
    • Int'l Joint Research
  • [Presentation] Auto-tuning to Scientific Applications ---Traditional Approach by Code Transformations and New Approach by AI ---2017

    • Author(s)
      Takahiro Katagiri
    • Organizer
      Second International Workshop on Deepening Performance Models for Automatic Tuning (DPMAT)
    • Int'l Joint Research
  • [Presentation] Evaluation of Four-dimensional Performance Parameter Search by Iterative One-dimensional d-Spline Search2017

    • Author(s)
      Masayoshi Mochizuki, Hiroki Fujito, Akihiro Fujii, Teruo Tanaka
    • Organizer
      The 16th International Symposium on Advanced Technology (ISAT-16)
    • Int'l Joint Research
  • [Presentation] 複数性能パラメタによる自動チューニングにおける性能パラメタ間相関関係の影響2017

    • Author(s)
      望月大義, 范谷瑛, 藤井昭宏, 田中 輝雄
    • Organizer
      日本応用数理学会2017年度年会
  • [Funded Workshop] Second International Workshop on Deepening Performance Models for Automatic Tuning (DPMAT)2017

URL: 

Published: 2018-12-17   Modified: 2022-08-26  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi