研究課題/領域番号 |
20K11900
|
研究種目 |
基盤研究(C)
|
配分区分 | 基金 |
応募区分 | 一般 |
審査区分 |
小区分61010:知覚情報処理関連
|
研究機関 | 国立研究開発法人産業技術総合研究所 |
研究代表者 |
小林 匠 国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 主任研究員 (30443188)
|
研究期間 (年度) |
2020-04-01 – 2023-03-31
|
研究課題ステータス |
完了 (2022年度)
|
配分額 *注記 |
4,290千円 (直接経費: 3,300千円、間接経費: 990千円)
2022年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円)
2021年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円)
2020年度: 1,690千円 (直接経費: 1,300千円、間接経費: 390千円)
|
キーワード | ニューラルネットワーク / 深層学習 / 事前モデル / 画像認識 / 線形識別ベクトル / ベクトル回転 / 畳み込みニューラルネットワーク / 受容野 / フィルタサイズ / 平滑化関数 / 適応的確率モデル / 正規分布 / 事前確率分布 / 適応的モデル |
研究開始時の研究の概要 |
本研究では、ニューラルネットワークを用いた特徴表現モデル学習の効率化に資する新たな理論基盤を構築する。近年、大規模なパラメータで構成されるニューラルネットワークを適用することで、データ自動認識の根幹を成すパターン特徴が学習的に獲得されている。本研究では最適化対象であるパラメータに対して、階層的な事前確率モデルと、入力パターン特性に従ってその事前モデルを動的に変化させる適応性を導入することで、パターン変動に頑健かつ効果的な特徴表現を実現する。大規模パラメータ+事前確率モデル+適応性を統合した学習方法の基盤構築を行い、様々な認識タスクやデータを用いた評価実験を通して多角的にその有効性を検証する。
|
研究成果の概要 |
データの自動認識に有効なニューラルネットワーク(NN)を用いた深層学習において、その性能を向上させる新たな学習の枠組みを提案した。従来はNNパラメータを学習により直接的に最適化していたが、本提案法ではパラメータに事前モデルを新たに導入し、階層的なパラメータ表現を定式化した。これによりNNパラメータは事前モデルから導出される形式となり、学習は事前モデルのハイパーパラメータ最適化に置き換えられる。このような階層的表現により、過学習等を抑制した頑健かつ適応的な深層学習が可能となった。NNを構成する様々な計算過程(層)に事前モデルを導入する手法を開発することで、自動認識の高精度化を達成した。
|
研究成果の学術的意義や社会的意義 |
画像や音声など膨大なパターンデータが蓄積される現在、それらを有効に活用するために、AIによる自動認識技術への社会的ニーズが高まっている。本研究成果は自動認識・解析で特に効果の高いニューラルネットワークを用いた深層学習の性能改善に資するものである。ニューラルネットワークのパラメータ表現に着目することで、既存の様々なモデルへと適用できる汎用性をもちつつ、実世界の多様な訓練データセットでの学習を可能とする頑健性を与えることができるため、実用面での波及効果が期待できる。さらに、事前モデルを導入したパラメータの階層的表現は学術的意義も大きい数理的アプローチとなっている。
|