• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2018 年度 実績報告書

機械学習技術の活用による職人的プログラミングの知能化

研究課題

研究課題/領域番号 16H02822
研究機関東北大学

研究代表者

滝沢 寛之  東北大学, サイバーサイエンスセンター, 教授 (70323996)

研究分担者 片桐 孝洋  名古屋大学, 情報基盤センター, 教授 (40345434)
横川 三津夫  神戸大学, 先端融合研究環, 教授 (70358307)
南 一生  国立研究開発法人理化学研究所, 計算科学研究センター, ユニットリーダー (70501998)
研究期間 (年度) 2016-04-01 – 2019-03-31
キーワード性能最適化 / 機械学習 / 自動チューニング
研究実績の概要

本研究ではプログラム中の潜在的に性能への悪影響が大きいアンチパターンを特定し、さらにはそれを改善する「性能最適化作業」の知能化を目指している。平成29年度までの検討から、機械学習技術を用いることによって演算カーネルの実装選択や、反復解法アルゴリズムの前処理選択、コンパイラオプション選択等、性能最適化作業において熟練者が経験的に行ってきた判断の一部を機械学習によって代替できる可能性を示した。
平成30年度には、SpMVカーネルの実装選択を機械学習で実現する方法について詳細に検討・評価し、学術論文としてまとめた。また、多くの機械学習では多数のハイパーパラメータを学習の前に経験的に決めなければならないことから、その自動チューニングにも取り組み、成果をまとめた論文が最優秀論文賞を受賞した。
平成29年度に得られた知見を基に、平成30年度にはディープラーニングを活用した反復解法アルゴリズムの前処理選択方式の自動チューニング方式を改良し、多種の疎行列事例に対して性能評価を行った。その結果、実用に耐えうる精度で最適な前処理方式が選択できることを明らかにした。その成果は当該分野の国際ワークショップにて最優秀論文賞を受賞するなど、有用性が高く評価された。
静的解析ツールSTViewによる乱流シミュレーションコードを解析した結果を用いて、性能評価すべきコード部分、特にファイル入出力部分の抽出が容易に行え、計算システムの性能評価に用いることができた。また、その評価を通じてSTViewに関する今後の課題が明らかとなった.
性能化最適手法の体系化に関しては、メモリやL2キャッシュのビジー時間に注目し、アプリケーションタイプごとのビジー時間の傾向を整理した。これまでの体系化の結果を英語の本としてまとめ、現在出版作業中であり2019年に出版されることが決まっている。

現在までの達成度 (段落)

平成30年度が最終年度であるため、記入しない。

今後の研究の推進方策

平成30年度が最終年度であるため、記入しない。

  • 研究成果

    (22件)

すべて 2019 2018

すべて 雑誌論文 (9件) (うち国際共著 1件、 査読あり 9件、 オープンアクセス 1件) 学会発表 (12件) (うち国際学会 6件、 招待講演 6件) 図書 (1件)

  • [雑誌論文] The Impacts of Locality and Memory Congestion-aware Thread Mapping on Energy Consumption of Modern NUMA Systems2019

    • 著者名/発表者名
      Mulya Agung, Muhammad Alfian Amrizal, Ryusuke Egawa and Hiroyuki Takizawa
    • 雑誌名

      2019 IEEE Symposium in Low-Power and High-Speed Chips (COOL CHIPS)

      巻: - ページ: 1--3

    • 査読あり
  • [雑誌論文] Performance Evaluation of Different Implementation Schemes of an Iterative Flow Solver on Modern Vector Machines2019

    • 著者名/発表者名
      Kenta Yamaguchi, Takashi Soga, Yoichi Shimomura, Thorsten Reimann, Kazuhiko Komatsu, Ryusuke Egawa, Akihiro Musa, Hiroyuki Takizawa, Hiroaki Kobayashi
    • 雑誌名

      Supercomputing Frontiers and Innovations

      巻: - ページ: -

    • DOI

      10.14529/js190106

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] A Machine Learning-Based Approach for Selecting SpMV Kernels and Matrix Storage Formats2018

    • 著者名/発表者名
      Hang Cui and Shoichi Hirasawa and Hiroaki Kobayashi and Hiroyuki Takizawa
    • 雑誌名

      IEICE Transactions on Information and Systems

      巻: E101-D(9) ページ: 2307-2314

    • DOI

      10.1587/transinf.2017EDP7176

    • 査読あり
  • [雑誌論文] Investigating the Effects of Dynamic Thread Team Size Adjustment for Irregular Applications2018

    • 著者名/発表者名
      Xiong Xiao, Mulya Agung, Muhammad Alfian Amrizal, Ryusuke Egawa and Hiroyuki Takizawa
    • 雑誌名

      The Sixth International Symposium on Computing and Networking (CANDAR)

      巻: - ページ: 76-84

    • DOI

      10.1109/CANDAR.2018.00017

    • 査読あり
  • [雑誌論文] A Failure Prediction-Based Adaptive Checkpointing Method with Less Reliance on Temperature Monitoring for HPC Applications2018

    • 著者名/発表者名
      Muhammad Alfian Amrizal and Pei Li and Mulya Agung and Ryusuke Egawa and Hiroyuki Takizawa
    • 雑誌名

      IEEE International Conference on Cluster Computing (CLUSTER2018)

      巻: - ページ: 512-523

    • DOI

      10.1109/CLUSTER.2018.00067

    • 査読あり
  • [雑誌論文] Use of Code Structural Features for Machine Learning to Predict Effective Optimizations2018

    • 著者名/発表者名
      Yuki Kawarabatake and Mulya Agung and Kazuhiko Komatsu and Ryusuke Egawa and Hiroyuki Takizawa
    • 雑誌名

      2018 IEEE International Parallel & Distributed Processing Symposium Workshops

      巻: - ページ: 1049-1055

    • DOI

      10.1109/IPDPSW.2018.00163

    • 査読あり
  • [雑誌論文] Preconditioner auto-tuning with deep learning for sparse iterative algorithms2018

    • 著者名/発表者名
      Kenya Yamada and Takahiro Katagiri and Hiroyuki Takizawa and Kazuo Minami and Mitsuo Yokokawa and Toru Nagai and Masao Ogino
    • 雑誌名

      The Sixth International Symposium on Computing and Networking Workshops (CANDARW)

      巻: - ページ: 257-262

    • DOI

      10.1109/CANDARW.2018.00055

    • 査読あり
  • [雑誌論文] Automatic Hyperparameter Tuning of Machine Learning Models under Time Constraints2018

    • 著者名/発表者名
      Zhen Wang and Agung Mulya and Ryusuke Egawa and Reiji Suda and Hiroyuki Takizawa
    • 雑誌名

      IEEE Big Data 2018 Workshop, The Second International Workshop on Automation in Machine Learning and Big Data (AutoML 2018)

      巻: - ページ: 4967-4973

    • DOI

      10.1109/BigData.2018.8622384

    • 査読あり
  • [雑誌論文] Performance Evaluation of a Vector Supercomputer SX-Aurora TSUBASA2018

    • 著者名/発表者名
      K. Komatsu, S. Momose, Y. Isobe, O. Watanabe, A. Musa, M. Yokokawa, T. Aoyama, M. Sato, H. Kobayashi
    • 雑誌名

      International Conference for High Performance Computing, Networking, Storage and Analysis (SC ’18)

      巻: - ページ: 685-696

    • DOI

      10.1109/SC.2018.00057

    • 査読あり
  • [学会発表] An Energy Optimization Method for Hybrid In-Memory Checkpointing2019

    • 著者名/発表者名
      Muhammad Alfian Amrizal, Mulya Agung, Ryusuke Egawa, Hiroyuki Takizawa
    • 学会等名
      IEEE Symposuim on Low-Power and High-Speed Chips and Systems (COOL Chips 22)
    • 国際学会
  • [学会発表] Toward Auto-tuning of Preconditioners for Sparse Iterative Solvers by Deep Learning2019

    • 著者名/発表者名
      Takahiro Katagiri
    • 学会等名
      2019 Conference on Advanced Topics and Auto Tuning in High-Performance Scientific Computing (ATAT2019)
    • 国際学会 / 招待講演
  • [学会発表] Auto-tuning of Preconditioners with Deep Learning2019

    • 著者名/発表者名
      Takahiro Katagiri, Kenya Yamada
    • 学会等名
      SIAM Conference on Computational Science and Engineering (CSE19)
    • 国際学会
  • [学会発表] スーパーコンピュータにおける性能最適化技術2019

    • 著者名/発表者名
      南一生
    • 学会等名
      最新アーキテクチャ向けプログラムチューニング技術ワークショップ
    • 招待講演
  • [学会発表] Memory First! A performance tuning strategy focusing on memory access patterns2019

    • 著者名/発表者名
      Hiroyuki Takizawa, Naoki Ebata, Mulya Agung, Muhammand Alan Amrizal, Ryusuke Egawa, Yoko Isobe, and Ryoji Takaki
    • 学会等名
      The 29th Workshop on Sustained Simulation Performance
    • 国際学会 / 招待講演
  • [学会発表] NEC SX-Aurora TSUBASA 向けプログラムチューニング技術2019

    • 著者名/発表者名
      滝沢寛之
    • 学会等名
      最新アーキテクチャ向けプログラムチューニング技術ワークショップ
    • 招待講演
  • [学会発表] Expressing the Differences in Code Optimizations between Intel Knights Landing and NEC SX-ACE Processors2018

    • 著者名/発表者名
      Hiroyuki Takizawa, Thorsten Reimann, Kazuhiko Komatsu, Takashi Soga, Ryusuke Egawa, Akihiro Musa, and Hiroaki Kobayashi
    • 学会等名
      The 13th World Congress on Computational Mechanics/2nd Pan American Congress on Computational Mechanics
    • 国際学会
  • [学会発表] SX-Aurora TSUBASAの基本性能および機能の初期評価2018

    • 著者名/発表者名
      滝沢寛之
    • 学会等名
      SX-Aurora TSUBASAフォーラム
    • 招待講演
  • [学会発表] Code Optimization with ppOpen-AT and Preconditioner Selection by Deep Learning2018

    • 著者名/発表者名
      Takahiro Katagiri
    • 学会等名
      International Symposium on Research and Education of Computational Science (RECS2018)
    • 国際学会 / 招待講演
  • [学会発表] ディープラーニングによる数値計算ライブラリのチューニングパラメタの最適化の試み2018

    • 著者名/発表者名
      山田賢也、 片桐孝洋、永井亨、荻野正雄
    • 学会等名
      第23回計算工学講演会
  • [学会発表] ディープラーニングを用いた数値計算ライブラリにおける反復解法の前処理選択の検討2018

    • 著者名/発表者名
      山田 賢也, 片桐 孝洋, 永井 亨, 荻野 正雄
    • 学会等名
      日本応用数理学会 2018年度年会
  • [学会発表] 建物の地震動応答シミュレーションに現れる前処理付き共役勾配法の並列化2018

    • 著者名/発表者名
      後藤啓,横川三津夫,坂敏秀
    • 学会等名
      第167回ハイパフォーマンスコンピューティング研究会
  • [図書] The Art of High Performance Computing for Computational Science Vol.22019

    • 著者名/発表者名
      Editor; Masaaki Geshi
    • 総ページ数
      -
    • 出版者
      Springer

URL: 

公開日: 2019-12-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi