| 研究課題/領域番号 |
19K12151
|
|---|
| 研究種目 |
基盤研究(C)
|
| 配分区分 | 基金 |
|---|
| 応募区分 | 一般 |
|---|
| 審査区分 |
小区分61040:ソフトコンピューティング関連
|
|---|
| 研究機関 | 筑波大学 |
|---|
研究代表者 |
亀山 啓輔 筑波大学, システム情報系, 教授 (40242309)
|
|---|
| 研究期間 (年度) |
2019-04-01 – 2023-03-31
|
| 研究課題ステータス |
完了 (2022年度)
|
| 配分額 *注記 |
4,420千円 (直接経費: 3,400千円、間接経費: 1,020千円)
2021年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2020年度: 2,080千円 (直接経費: 1,600千円、間接経費: 480千円)
2019年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円)
|
|---|
| キーワード | ニューラルネットワーク / 動的モデル学習 / 転移学習 / 蒸留 / カリキュラム学習 / モデル選択 |
|---|
| 研究開始時の研究の概要 |
従来，複雑な問題への適応や転移学習などの手段として用いられてきたニューラルネットワークのモデル切り替えを，固定したモデルによらない動的モデル学習法として統一的に整理するとともに，どのようにモデルを切り替えて学習していくことが学習効率や汎化能力の向上につながるのかを検討する．切り替え時点の決定に向けては，学習中に得られる有用な特徴量を見出し，それらを用いて適した切り替え時点を検出する．切り替えモデルと写像の選択に向けては，切り替え候補写像を選択するための写像間距離について検討するとともに，多様なモデル間での切り替え法を提案する．これらの後に実世界の認識問題へ適用し，その有用性を評価する．
|
| 研究成果の概要 |
複数のニューラルネットワークモデルを切り替えつつ必要なモデルと写像を獲得する学習過程を「動的モデル学習」として整理し，特に切り替え後のモデルと写像の選択について，学習効率と圧縮後の性能の観点から多角的に検討を行った．畳み込みニューラルネットワークを用いた画像認識問題において，多段階のモデル圧縮手法や，蒸留において有益な性質を選択的に転移させる手法を提案し，モデルの規模を徐々に変化させて切り替えていくことや，切り替え後写像の選択基準の工夫により圧縮後の性能向上が可能であることなどを示した．また，マルチモーダルなパターン分類における効率的なモーダリティ選択法を提案し，その有効性を示した．
|
| 研究成果の学術的意義や社会的意義 |
本研究は，パターン認識系の構築における蒸留や転移学習などに見られる複数のニューラルネットワークモデルを経由した学習過程について，それらに共通するモデル切り替え時のモデルと写像の選択方法について学習効率と認識精度の観点から検討を加え，新たな学習方式を提案して学習の効率化と認識精度の向上が可能となることを示しており，単一のモデルに限定されない学習方式の実用化に貢献する成果である．このことは，一定の能力を持つパターン認識系を従来より計算リソースの限られたデバイス上に実現することを可能にするもので，タブレット端末やIoTデバイス等への高度なパターン認識系の実装に資するものである．
|
