• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2016 Fiscal Year Annual Research Report

複合的・階層的な自動チューニングを実現する数理基盤手法の研究とライブラリの開発

Research Project

Project/Area Number 15H02708
Research InstitutionThe University of Tokyo

Principal Investigator

須田 礼仁  東京大学, 大学院情報理工学系研究科, 教授 (40251392)

Co-Investigator(Kenkyū-buntansha) 藤井 昭宏  工学院大学, 情報学部(情報工学部), 准教授 (10383986)
美添 一樹  国立研究開発法人理化学研究所, 革新知能統合研究センター, ユニットリーダー (80449115)
Project Period (FY) 2015-04-01 – 2018-03-31
Keywords自動チューニング / 高性能計算 / 性能モデル化 / d-spline / 代数的多重格子法 / モンテカルロ木探索 / 三角行列積
Outline of Annual Research Achievements

複合的・階層的な自動チューニングにおいて、我々が開発しているベイズ的手法に適合する性能モデル化として、線形モデルと相関モデルを特定した。また、有効性が指摘されている一般的な線形モデル、ANOVA的な加法モデル、ガウス過程モデル、二次静的モデルを Fortran 風に記述したものからモデル化プログラムを自動生成するシステムを構築し、正しくモデルが構築できていることを確認した。また自動チューニングにおける実行時間のブレに関して、計算量の少ない離散スプライン(d-Spline)を用いつつ追加計測できる手法を提案した。実測した結果がd-Splineによる推定とかけ離れているときのみ再実測を行う。代数的多重格子法の代表的なひとつの性能パラメタの最適値推定問題に適用したところ、正しい最適値を求める精度が向上した。
また、多重格子法はパラメタが非常に多いため、強く限定された範囲で人手のチューニングがなされてきた。本研究では、ATMathCoreLibを用いることで100万通りのパラメタ組み合わせについて動作することを確認した。また将来的に重要となる解法や,代数的多重格子法の収束性を高める研究も同時に進めてきた。また探索アルゴリズムの応用にも引き続き取り組んだ。主にモンテカルロ木探索を RNA inverse folding や材料科学などに応用する研究を行い、既存の手法を上回る性能を得た。さらに、分散メモリ並列計算機上での一般固有値問題ソルバの最適選択について,実測時間を基に乱数のノイズを加えて多数の実験用データを生成し,ATMathCoreLib で選択を行った結果,乱数の標準偏差が40%程度と大きくても,選択肢が実行時間最短のソルバに収束することを確認した。また,Xeon Phi上での三角行列積について,系統的な性能評価を行った。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

平成28年度には、(1) 複合的・階層的な自動チューニングを統括する連携コア機構構築に向けた必要要件の明確化、設計方針策定、プロトタイプ作成、(2) 複合的・階層的な自動チューニングのための数理手法と評価、およびインタフェースの開発、(3) 並列数値計算における複合的・階層的な自動チューニングの試作と評価、の3項目の研究を計画していた。
このうち (2) の数理手法については、有用な手法を整理・分析し、これらの手法の共存可能性の分析、ライブラリの開発など、順調に進めることができた。しかし、これらの数理手法の開発に注力をしたため、(1) の連携コア機構についての研究は予定よりも遅れることとなった。(3) の並列数値計算における自動チューニングについては、我々の開発した手法の適用試験が進んでおり、数理手法とライブラリが完成すれば実際の問題に適用することができるようになる。そもそも (1) は本研究を開始してから必要性が発見された事項で、当初の開発計画には含まれていなかったことを考慮すると、全体としてはおおむね順調に研究が進捗していると評価できる。

Strategy for Future Research Activity

最終年度である平成29年度にも、引き続き (1) 複合的・階層的な自動チューニングを統括する連携コア機構の研究、(2) 複合的・階層的な自動チューニングのための数理手法の研究、(3) 並列数値計算における複合的・階層的な自動チューニングの研究、の3つの項目で研究を推進する。このうち (2) と (3) が当初の研究項目で (1) は研究を開始してから明らかになった項目であることから、(2) と (3) を優先させて研究を進める。(2) については、数理手法は整理できたので、ライブラリを完成させ、これまでに我々が開発してきた自動チューニングのための逐次実験計画法であるワンステップ近似と連結させ、自動チューニング数理ライブラリ ATMathCoreLib の機能拡張として完成させる。(3) については平成28年度の成果に基づき、(2) で開発したライブラリを適用することにより、その有効性を検証する。新たな研究項目である (1) についても検討を進める。我々が提案している自動チューニングの枠組みである 4DAC を用いることで連携コア機構の必要要件、インタフェースなどの検討が進むものと期待している。ただしほかの項目に時間がかかるなどした場合には、当初の研究計画の内容を優先させて、連携コア機構については次の機会での研究テーマとして残すことも検討する。

  • Research Products

    (16 results)

All 2017 2016

All Journal Article (6 results) (of which Int'l Joint Research: 2 results,  Peer Reviewed: 5 results,  Acknowledgement Compliant: 6 results,  Open Access: 2 results) Presentation (10 results) (of which Int'l Joint Research: 5 results)

  • [Journal Article] Asymptotic quadratic convergence of the serial block-Jacobi EVD algorithm for Hermitian matrices2017

    • Author(s)
      Gabriel Oksa, Yusaku Yamamoto and Marian Vajtersic
    • Journal Title

      Numerische Mathematik

      Volume: 印刷中 Pages: 印刷中

    • DOI

      DOI:10.1007/s00211-016-0863-5

    • Peer Reviewed / Int'l Joint Research / Acknowledgement Compliant
  • [Journal Article] Performance analysis and optimization of the parallel one-sided block Jacobi SVD algorithm with dynamic ordering and variable blocking2017

    • Author(s)
      Shuhei Kudo, Yusaku Yamamoto, Martin Becka and Marian Vajtersic
    • Journal Title

      Concurrency and Computation: Practice and Experience

      Volume: 印刷中 Pages: 印刷中

    • DOI

      DOI: 10.1002/cpe.4059

    • Peer Reviewed / Int'l Joint Research / Acknowledgement Compliant
  • [Journal Article] Probabilistic analysis of an estimator for the Frobenius norm of a matrix product2017

    • Author(s)
      Yusaku Yamamoto and Shuhei Kudo
    • Journal Title

      JSIAM Letters

      Volume: 9 Pages: 9-12

    • Peer Reviewed / Open Access / Acknowledgement Compliant
  • [Journal Article] 共役勾配法への種々の通信削減手法の適用と評価2017

    • Author(s)
      熊谷洋祐, 藤井昭宏, 田中輝雄, 深谷猛, 須田礼仁
    • Journal Title

      情報処理学会論文誌 コンピューティングシステム

      Volume: 9 Pages: 1-13

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] Xeon PhiにおけるDSYRKの並列化手法と性能解析2016

    • Author(s)
      工藤 周平, 山本 有作
    • Journal Title

      情報処理学会論文誌コンピューティングシステム

      Volume: 9 Pages: 15-24

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] Communication-Avoiding CG Method: New Direction of Krylov Subspace Methods towards Exa-scale Computing2016

    • Author(s)
      Reiji Suda, Cong Li, Daichi Watanabe, Yosuke Kumagai, Akihiro Fujii, Teruo Tanaka
    • Journal Title

      京都大学数理解析研究所講究録

      Volume: 1995 Pages: 102-111

    • Open Access / Acknowledgement Compliant
  • [Presentation] 自動チューニングにおけるd-Spline近似の実時間のブレを考慮した手法の提案2017

    • Author(s)
      范谷瑛, 望月大義, 田中輝雄, 藤井昭宏, 片桐孝洋
    • Organizer
      第79回情報処理学会全国大会
    • Place of Presentation
      名古屋大学(愛知県名古屋市)
    • Year and Date
      2017-03-16 – 2017-03-17
  • [Presentation] Two topics about fitting function d-Spline for realization of practical AT2017

    • Author(s)
      Tanaka Teruo, Masayoshi Mochizuki, Guuing Fan, Akihiro Fujii
    • Organizer
      2017 Conference on Advanced Topics and Auto Tuning in High-Performance Scientific Computing
    • Place of Presentation
      台北(台湾)
    • Year and Date
      2017-03-10 – 2017-03-11
    • Int'l Joint Research
  • [Presentation] Parameter tuning for algebraic multigrid solver with ATmathCoreLIB2017

    • Author(s)
      Akihiro Fujii, Teruo Tanaka
    • Organizer
      Conference on Advanced Topics and Auto Tuning in High-Performance Scientific Computing
    • Place of Presentation
      台北(台湾)
    • Year and Date
      2017-03-10 – 2017-03-11
    • Int'l Joint Research
  • [Presentation] Generation of Math Library for Multi-Parameter Autotuning2017

    • Author(s)
      Reiji Suda
    • Organizer
      2017 Conference on Advanced Topics and Auto Tuning in High-Performance Scientific Computing
    • Place of Presentation
      台北(台湾)
    • Year and Date
      2017-03-10 – 2017-03-11
    • Int'l Joint Research
  • [Presentation] Algebraic multigrid method with multiple near-kernel vector2016

    • Author(s)
      藤井昭宏, 野村直也, 田中輝雄
    • Organizer
      現象解明に向けた数値解析学の新展開 Ⅱ
    • Place of Presentation
      京都大学(京都府京都市)
    • Year and Date
      2016-10-19 – 2016-10-21
  • [Presentation] On constructing cost models for online automatic tuning using ATMathCoreLib2016

    • Author(s)
      Seiji Nagashima, Takeshi Fukaya and Yusaku Yamamoto
    • Organizer
      the IEEE 10th International Symposium on Embedded Multicore/Many-core Systtems-on-Chip (MCSoC-16)
    • Place of Presentation
      リヨン(フランス)
    • Year and Date
      2016-09-21 – 2016-09-23
    • Int'l Joint Research
  • [Presentation] 一般化菱形行列冪カーネルのための領域分割アルゴリズム2016

    • Author(s)
      須田礼仁
    • Organizer
      情報処理学会第155回ハイパフォーマンスコンピューティング研究発表会
    • Place of Presentation
      キッセイ文化ホール(長野県松本市)
    • Year and Date
      2016-08-08 – 2016-08-10
  • [Presentation] 複数性能パラメタ空間における実行時AT機構2016

    • Author(s)
      田中輝雄, 望月大義, 村田陸, 藤井昭宏
    • Organizer
      2016年ハイパフォーマンスコンピューティングと計算科学シンポジウム
    • Place of Presentation
      東北大学(宮城県仙台市)
    • Year and Date
      2016-06-06 – 2016-06-07
  • [Presentation] 複合的自動チューニングのための数理とソフトウェア2016

    • Author(s)
      須田礼仁
    • Organizer
      第21回計算工学講演会
    • Place of Presentation
      朱鷺メッセ(新潟県新潟市)
    • Year and Date
      2016-05-31 – 2016-06-02
  • [Presentation] Coarse grid aggregation for SA-AMG method with multiple kernel vectors2016

    • Author(s)
      Akihiro Fujii, Naoya Nomura, Teruo Tanaka, Kengo Nakajima, Osni Marques
    • Organizer
      SIAM conference on Parallel Processing for Scientific Computing
    • Place of Presentation
      パリ(フランス)
    • Year and Date
      2016-04-12 – 2016-04-15
    • Int'l Joint Research

URL: 

Published: 2018-01-16  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi