2022 Fiscal Year Annual Research Report
Development of Machine Learning Framework Based on Structure Optimization of Computational Graph
| Project/Area Number |
20H04240
|
|---|
| Research Institution | Yokohama National University |
|---|
Principal Investigator |
白川 真一 横浜国立大学, 大学院環境情報研究院, 准教授 (90633272)
|
|---|
| Project Period (FY) |
2020-04-01 – 2023-03-31
|
| Keywords | 機械学習 / 計算グラフ / 最適化 / 進化計算 |
|---|
| Outline of Annual Research Achievements |
最終年度である2022年度は，前年度までの研究結果を踏まえ，モデル構造と学習方式の改善の検討と，それらの応用・評価を実施した．
前年度に検討した連続緩和による機械学習モデルの入力変数の自動選択方式をNeural Additive Models (NAMs)と呼ばれる解釈性の高いモデルに応用し，特徴間の相互作用の利用を可能にするとともに，数千次元の特徴をもつデータセットでも効率的に動作する方式を開発した．さらに，選択特徴に対するユーザの好みや事前知識を導入できるように改良した．また，これまでに検討してきた緩和に基づく計算グラフの構造最適化の知見を基礎に，緩和フリーな新規の構造最適化方式を検討した．
次に，開発方式の応用としてモデルの解釈性が要求される生体データなどへの適用を行った．特に入力変数の選択方式は運用時のセンシングコストを低減できるなどの追加の利点も確認した．さらに，計算グラフの構造最適化で利用している緩和による最適化方式を応用し，表形式データを画像化するための変換器を学習する方式を開発し，説明性の高い機械学習モデルを構築した．
また，確率緩和方式である確率モデルベース進化計算において，正規分布を用いる方法を整数変数最適化に効果的に適用する手法や，代理モデルを活用して効率化する手法，計算グラフの最適化でも現れる目的関数への影響が少ない設計変数が存在する問題で最適化を効率化する手法などを開発した．さらに，確率緩和に基づく計算グラフの最適化において，複雑度の異なる複数のモデルを同時に探索する方式を開発し，畳み込みニューラルネットワークの構造探索において効率的なモデル構造の探索ができることを示した．
|
| Research Progress Status |
令和4年度が最終年度であるため、記入しない。
|
| Strategy for Future Research Activity |
令和4年度が最終年度であるため、記入しない。
|
