• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

性能最適化の知見を自ら発掘する自動チューニング技術の開発

研究課題

研究課題/領域番号 23K16890
研究種目

若手研究

配分区分基金
審査区分 小区分60090:高性能計算関連
研究機関東北大学

研究代表者

高橋 慧智  東北大学, サイバーサイエンスセンター, 助教 (40846408)

研究期間 (年度) 2023-04-01 – 2026-03-31
研究課題ステータス 交付 (2023年度)
配分額 *注記
4,680千円 (直接経費: 3,600千円、間接経費: 1,080千円)
2025年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
2024年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2023年度: 2,340千円 (直接経費: 1,800千円、間接経費: 540千円)
キーワードXAI / 自動チューニング / 深層学習 / 性能モデル / 特徴量重要度 / テンソル演算 / 説明可能AI / 機械学習 / 高性能計算
研究開始時の研究の概要

多大な労力を要する性能最適化作業を効率化するため,性能が高いプログラムを自動的に探索する自動チューニング技術が研究されている.しかし,現在の自動チューニング技術は利用者にとってブラックボックスであり,高性能なプログラムを出力するが,なぜそのプログラムが高性能であるのか利用者に対して説明できない.本研究では,説明可能AI技術を応用することにより,プログラムの実行性能に影響を与える性能パラメータを自動的に特定し,なぜそれらのパラメータが性能に影響するのか自律的に解明する自動チューニング技術を確立する.

研究実績の概要

現在の自動チューニング技術は利用者にとってブラックボックスであり,高性能なプログラムを出力するが,なぜそのプログラムが高性能であるのか利用者に対して説明できない.本研究では,説明可能AI (eXplainable AI, XAI) 技術を応用することにより,プログラムの実行性能に影響を与える性能パラメータを自動的に特定し,なぜそれらのパラメータが性能に影響するのか自律的に解明する自動チューニング技術の確立を目指している.
本年度は,アプリケーションの性能モデルに着目し,説明可能AI手法を用いて性能モデルを解析することにより,各性能パラメータの実行性能への影響度を定量化し,性能に顕著な影響を与えるパラメータを特定する手法を提案した.
具体的には様々なテンソル計算カーネルから成るデータセットTenSetに対して自動チューニングフレームワークAnsorを適用し,各カーネルをチューニングするとともに性能モデルを訓練した.構築した性能モデルをPermutation Feature Importance (PFI) と呼ばれる特徴量の重要度を定量化するXAI手法により分析したところ,性能に対する影響が大きい性能パラメータを特定され,相関に基づく古典的な特徴量重要度定量化手法よりも正確であることを実証できた.また,特徴量と性能の関係をPartial Dependence Plot (PDP) と呼ばれるXAI手法によって可視化した結果,非線形な関係となっており,相関に基づく手法が有効でない一因となっていることが明らかになった.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

本年度は当初の研究計画に従い,課題①「実行性能に影響を与える性能パラメータの特定」に取り組み,自動チューニングに用いられる性能モデルをXAI手法によって解析し,相関に基づく既存の手法より正確に重要な性能パラメータを特定することができた.これまで得られた研究成果は国内研究会および国際学会にそれぞれ論文として投稿し,採択が決定している.以上のことから,本年度までは概ね順調に進展していると判断する.

今後の研究の推進方策

来年度は,TenSet以外のベンチマーク集やAnsor以外の自動チューニング手法に対しても様々なXAI手法を適用することで自動チューニングにおけるXAI手法の有効性をさらに検証するとともに,課題② 「性能パラメータが実行性能に影響を与える原因の解明」に着手する.

報告書

(1件)
  • 2023 実施状況報告書
  • 研究成果

    (3件)

すべて 2023

すべて 雑誌論文 (2件) (うち査読あり 2件) 学会発表 (1件)

  • [雑誌論文] Parallelizable Loop Detection using Pre-trained Transformer Models for Code Understanding2023

    • 著者名/発表者名
      Soratouch Pornmaneerattanatri, Keichi Takahashi, Yutaro Kashiwa, Kohei Ichikawa, Hajimu Iida
    • 雑誌名

      Lecture Notes in Electrical Engineering

      巻: 112 ページ: 32-42

    • DOI

      10.1007/978-981-99-8211-0_4

    • ISBN
      9789819982103, 9789819982110
    • 関連する報告書
      2023 実施状況報告書
    • 査読あり
  • [雑誌論文] Prototype of a Batched Quantum Circuit Simulator for the Vector Engine2023

    • 著者名/発表者名
      Keichi Takahashi, Toshio Mori, Hiroyuki Takizawa
    • 雑誌名

      SC-W '23: Proceedings of the SC '23 Workshops of The International Conference on High Performance Computing, Network, Storage, and Analysis

      巻: - ページ: 1499-1505

    • DOI

      10.1145/3624062.3624226

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり
  • [学会発表] Comparison of Parallel STL with C/C++ GPU Programming Models2023

    • 著者名/発表者名
      Joanna Imada
    • 学会等名
      第190回HPC研究発表会
    • 関連する報告書
      2023 実施状況報告書

URL: 

公開日: 2023-04-13   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi