| 研究課題/領域番号 |
20H04240
|
|---|
| 研究機関 | 横浜国立大学 |
|---|
研究代表者 |
白川 真一 横浜国立大学, 大学院環境情報研究院, 准教授 (90633272)
|
|---|
| 研究期間 (年度) |
2020-04-01 – 2023-03-31
|
| キーワード | 機械学習 / 計算グラフ / 最適化 / 進化計算 |
|---|
| 研究実績の概要 |
2021年度は，計算グラフの構造最適化に基づく手法の複数の問題への応用・評価と，学習方式の改善を実施した．
まず，昨年度に引き続き機械学習でよく利用される分類問題のベンチマークデータセットやシステム同定問題へ開発方式を応用し，従来の機械学習と同程度の性能を達成できることを確認するとともに解釈性やリソース効率の面でのアドバンテージを確認した．さらに，提案方式の画像データへの応用を検討した．具体的には，画像処理フィルタのような処理の意味付けが容易なモジュールの組合せで画像分類モデルを表現し最適化する方式とテンプレートマッチングのような画像分類方法を計算グラフで表現しその計算グラフ中のテンプレートを最適化する方式の2つの方法を検討した．これらの方法は精度の面では畳み込みニューラルネットワークなどの深層学習に劣るものの解釈性の面では優位性が認められた．
学習方式ついては，連続緩和と確率緩和の性能比較，確率緩和方式の性能改善，ハイブリッド方式の検討を実施した．連続緩和は離散変数を連続変数に置き換えて最適化する方式であり，確率緩和は設計変数に関する確率分布を導入しその分布パラメータを最適化する方式である．まず，機械学習モデルの入力変数の選択という構造最適化問題においてGumbel-Sigmoid関数による連絡緩和方式とベルヌーイ分布による確率緩和方式の比較を行い，十分な学習時間をかければどちらの手法も適切なモデルを学習できることが分かった．次に，確率緩和方式である確率モデルベース進化計算において，エントロピー正則化を導入し最適化を安定化・効率化する手法，正規分布を用いる手法を整数変数を含む問題に効果的に適用する手法などを開発した．これらの成果は進化計算のトップ国際会議GECCOに採択された．さらに，連続緩和と連続緩和を融合した方式の開発と計算グラフの構造最適化への適用方法を検討した．
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
当初の予定通り，計算グラフの構造最適化というアプローチに基づいて，複数のタスク対して方式を開発・評価し適用範囲の拡大を行うとともに，学習方式についても改善方法を継続して開発している．また，研究成果は国際会議や国内学会で発表を行っており，本研究はおおむね順調に進展している．
|
| 今後の研究の推進方策 |
今後はこれまでの研究を踏まえ，モデル構造や学習方式のさらなる改善を実施し，提案機械学習フレームワークを確立する．提案方式の適用先については，数値データの分類・回帰問題，システム同定問題，画像データへの適用を中心に検討を継続し，提案方式が有効に働くドメインを明らかにする．また入力変数が非常に多い問題への応用についても検討する予定である．モデル学習時に利用する最適化方式に関しては，それぞれの方式の改善を継続するとともに，連続緩和と確率緩和と呼ぶ2つの緩和方式の利点を融合した新規の方式を完成させ，提案方式によって効率的なモデルの学習ができることを実験的に示す．開発している方式は，解釈可能な演算ユニットの組み合わせによって知識表現をするためモデル全体の解釈性向上が期待できる．これに関して学習済みの計算グラフを簡易にして解釈性をさらに向上させる方式などを検討する．
|
