• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

適応的事前確率モデルに基づく特徴表現学習に関する研究

研究課題

研究課題/領域番号 20K11900
研究種目

基盤研究(C)

配分区分基金
応募区分一般
審査区分 小区分61010:知覚情報処理関連
研究機関国立研究開発法人産業技術総合研究所

研究代表者

小林 匠  国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 主任研究員 (30443188)

研究期間 (年度) 2020-04-01 – 2023-03-31
研究課題ステータス 完了 (2022年度)
配分額 *注記
4,290千円 (直接経費: 3,300千円、間接経費: 990千円)
2022年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円)
2021年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円)
2020年度: 1,690千円 (直接経費: 1,300千円、間接経費: 390千円)
キーワードニューラルネットワーク / 深層学習 / 事前モデル / 画像認識 / 線形識別ベクトル / ベクトル回転 / 畳み込みニューラルネットワーク / 受容野 / フィルタサイズ / 平滑化関数 / 適応的確率モデル / 正規分布 / 事前確率分布 / 適応的モデル
研究開始時の研究の概要

本研究では、ニューラルネットワークを用いた特徴表現モデル学習の効率化に資する新たな理論基盤を構築する。近年、大規模なパラメータで構成されるニューラルネットワークを適用することで、データ自動認識の根幹を成すパターン特徴が学習的に獲得されている。本研究では最適化対象であるパラメータに対して、階層的な事前確率モデルと、入力パターン特性に従ってその事前モデルを動的に変化させる適応性を導入することで、パターン変動に頑健かつ効果的な特徴表現を実現する。大規模パラメータ+事前確率モデル+適応性を統合した学習方法の基盤構築を行い、様々な認識タスクやデータを用いた評価実験を通して多角的にその有効性を検証する。

研究成果の概要

データの自動認識に有効なニューラルネットワーク(NN)を用いた深層学習において、その性能を向上させる新たな学習の枠組みを提案した。従来はNNパラメータを学習により直接的に最適化していたが、本提案法ではパラメータに事前モデルを新たに導入し、階層的なパラメータ表現を定式化した。これによりNNパラメータは事前モデルから導出される形式となり、学習は事前モデルのハイパーパラメータ最適化に置き換えられる。このような階層的表現により、過学習等を抑制した頑健かつ適応的な深層学習が可能となった。NNを構成する様々な計算過程(層)に事前モデルを導入する手法を開発することで、自動認識の高精度化を達成した。

研究成果の学術的意義や社会的意義

画像や音声など膨大なパターンデータが蓄積される現在、それらを有効に活用するために、AIによる自動認識技術への社会的ニーズが高まっている。本研究成果は自動認識・解析で特に効果の高いニューラルネットワークを用いた深層学習の性能改善に資するものである。ニューラルネットワークのパラメータ表現に着目することで、既存の様々なモデルへと適用できる汎用性をもちつつ、実世界の多様な訓練データセットでの学習を可能とする頑健性を与えることができるため、実用面での波及効果が期待できる。さらに、事前モデルを導入したパラメータの階層的表現は学術的意義も大きい数理的アプローチとなっている。

報告書

(4件)
  • 2022 実績報告書   研究成果報告書 ( PDF )
  • 2021 実施状況報告書
  • 2020 実施状況報告書
  • 研究成果

    (2件)

すべて 2023 2022

すべて 雑誌論文 (1件) (うち査読あり 1件) 学会発表 (1件) (うち国際学会 1件)

  • [雑誌論文] Disentangled convolution for optimizing receptive field2023

    • 著者名/発表者名
      Kobayashi Takumi
    • 雑誌名

      Pattern Recognition Letters

      巻: 169 ページ: 67-74

    • DOI

      10.1016/j.patrec.2023.03.029

    • 関連する報告書
      2022 実績報告書
    • 査読あり
  • [学会発表] Rotation Regularization Without Rotation2022

    • 著者名/発表者名
      Takumi Kobayashi
    • 学会等名
      European Conference on Computer Vision (ECCV)
    • 関連する報告書
      2022 実績報告書
    • 国際学会

URL: 

公開日: 2020-04-28   更新日: 2024-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi