| Project/Area Number |
23K16890
|
|---|
| Research Category |
Grant-in-Aid for Early-Career Scientists
|
| Allocation Type | Multi-year Fund |
|---|
| Review Section |
Basic Section 60090:High performance computing-related
|
|---|
| Research Institution | Tohoku University |
|---|
Principal Investigator |
高橋 慧智 東北大学, サイバーサイエンスセンター, 助教 (40846408)
|
|---|
| Project Period (FY) |
2023-04-01 – 2026-03-31
|
| Project Status |
Granted (Fiscal Year 2023)
|
| Budget Amount *help |
¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000)
Fiscal Year 2025: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
Fiscal Year 2024: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
Fiscal Year 2023: ¥2,340,000 (Direct Cost: ¥1,800,000、Indirect Cost: ¥540,000)
|
|---|
| Keywords | XAI / 自動チューニング / 深層学習 / 性能モデル / 特徴量重要度 / テンソル演算 / 説明可能AI / 機械学習 / 高性能計算 |
|---|
| Outline of Research at the Start |
多大な労力を要する性能最適化作業を効率化するため，性能が高いプログラムを自動的に探索する自動チューニング技術が研究されている．しかし，現在の自動チューニング技術は利用者にとってブラックボックスであり，高性能なプログラムを出力するが，なぜそのプログラムが高性能であるのか利用者に対して説明できない．本研究では，説明可能AI技術を応用することにより，プログラムの実行性能に影響を与える性能パラメータを自動的に特定し，なぜそれらのパラメータが性能に影響するのか自律的に解明する自動チューニング技術を確立する．
|
| Outline of Annual Research Achievements |
現在の自動チューニング技術は利用者にとってブラックボックスであり，高性能なプログラムを出力するが，なぜそのプログラムが高性能であるのか利用者に対して説明できない．本研究では，説明可能AI (eXplainable AI, XAI) 技術を応用することにより，プログラムの実行性能に影響を与える性能パラメータを自動的に特定し，なぜそれらのパラメータが性能に影響するのか自律的に解明する自動チューニング技術の確立を目指している．
本年度は，アプリケーションの性能モデルに着目し，説明可能AI手法を用いて性能モデルを解析することにより，各性能パラメータの実行性能への影響度を定量化し，性能に顕著な影響を与えるパラメータを特定する手法を提案した．
具体的には様々なテンソル計算カーネルから成るデータセットTenSetに対して自動チューニングフレームワークAnsorを適用し，各カーネルをチューニングするとともに性能モデルを訓練した．構築した性能モデルをPermutation Feature Importance (PFI) と呼ばれる特徴量の重要度を定量化するXAI手法により分析したところ，性能に対する影響が大きい性能パラメータを特定され，相関に基づく古典的な特徴量重要度定量化手法よりも正確であることを実証できた．また，特徴量と性能の関係をPartial Dependence Plot (PDP) と呼ばれるXAI手法によって可視化した結果，非線形な関係となっており，相関に基づく手法が有効でない一因となっていることが明らかになった．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本年度は当初の研究計画に従い，課題①「実行性能に影響を与える性能パラメータの特定」に取り組み，自動チューニングに用いられる性能モデルをXAI手法によって解析し，相関に基づく既存の手法より正確に重要な性能パラメータを特定することができた．これまで得られた研究成果は国内研究会および国際学会にそれぞれ論文として投稿し，採択が決定している．以上のことから，本年度までは概ね順調に進展していると判断する．
|
| Strategy for Future Research Activity |
来年度は，TenSet以外のベンチマーク集やAnsor以外の自動チューニング手法に対しても様々なXAI手法を適用することで自動チューニングにおけるXAI手法の有効性をさらに検証するとともに，課題② 「性能パラメータが実行性能に影響を与える原因の解明」に着手する．
|
