• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2021 年度 実施状況報告書

神経回路網の動的モデル学習におけるモデル切り替え基準の検討

研究課題

研究課題/領域番号 19K12151
研究機関筑波大学

研究代表者

亀山 啓輔  筑波大学, システム情報系, 教授 (40242309)

研究期間 (年度) 2019-04-01 – 2023-03-31
キーワードニューラルネットワーク / 動的モデル学習 / 転移学習 / 蒸留
研究実績の概要

2021年度は,前年度に提案したニューラルネットワークの動的モデル学習方式である蒸留と中間層応答の転移を併用する学習方式のさらなる改良を進めた.また,生体認証への応用では,虹彩と眼周囲画像を用いたマルチモーダル認証方式の高度化を進めた.

畳み込みニューラルネットワーク(CNN)を対象とした動的モデル学習においては,パラメータ数が少なく,高い写像能力,汎化能力を備えたネットワークの獲得のために多段階にモデル切り替えを行う学習方式について,蒸留と中間層応答の転移の方法についてさらなる検討を進め,効率的に目的とするモデル圧縮が行われる条件を明らかにした.さらに,大規模なネットワークにおける同方式の有効性を評価するために,画像認識問題に対して50層からなるResNet50として知られるモデルを最終的に98層からなるがパラメータ数は1/8である,より深く軽量なResNetモデルに圧縮することを試み,モデル圧縮を達成しつつも認識精度をさらに改善できることを示した.この研究成果は,国内学会(FIT2021.FIT奨励賞受賞)および国際ワークショップ(IEEE PerconAI)で報告した.

また,生体認証へのニューラルネットワークを用いたパターン認識の応用としての,虹彩パターンと眼周囲画像を併用するマルチモーダル認証方式においては,それぞれのモーダリティを担当するCNNの認識結果をスイッチングする第3のネットワーク(マルチモーダルセレクタ)の学習方法について検討を進め,いずれかのモーダリティが著しく劣化した状態を教師データとして学習した場合に,より適切なモーダリティの選択が行われ,システム全体としての認証精度が向上することを明らかにした.この研究成果は,国内学会(FIT2021.FIT奨励賞受賞)および国際学会(ICONIP 2021)で報告した.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

前年度の成果を発展させる形で着実に成果を挙げることができ,国内外の学会においてその成果を発表することができた.当初予定では最終年度であったが,動的モデル学習における学習中のモデル切り替えタイミングの選択に関する検討をより深めるために,研究期間を延長することとした.

今後の研究の推進方策

動的モデル学習における,学習中のモデル切り替えの選択基準についてさらに検討を進めるとともに,動的なモデル変更をもともなう学習の概念である「カリキュラム学習」との関連性を明確にしたいと考えている.その上で,学習開始時にあらかじめモデル変更のスケジュールを定めない「動的カリキュラム学習」方式として学習の高度化,効率化を目指したい.

次年度使用額が生じた理由

初年度の進捗がコロナウィルス感染症の拡大により若干遅延した影響により,研究機関を1年間延長し,残された課題を解決するとともに,プロジェクトを総括する報告を行う.残経費はデータ整理補助のための謝金,ソフトウェア等の消耗品,学会報告のための参加費および旅費に充てる.

  • 研究成果

    (5件)

すべて 2022 2021

すべて 雑誌論文 (2件) (うち査読あり 2件) 学会発表 (3件) (うち招待講演 1件)

  • [雑誌論文] Multi-Stage Model Compression using Teacher Assistant and Distillation with Hint-Based Training2022

    • 著者名/発表者名
      Takumi Morikawa and Keisuke Kameyama
    • 雑誌名

      Workshop on Pervasive and Resource-constrained AI (PerConAI) part of the 20th IEEE International Conference on Pervasive Computing and Communications (PerCom 2022)

      巻: 1 ページ: 484-490

    • 査読あり
  • [雑誌論文] Adaptive Selection of Classifiers for Person Recognition by Iris Pattern and Periocular Image2021

    • 著者名/発表者名
      Keita Ogawa and Keisuke Kameyama
    • 雑誌名

      Neural Information Processing. ICONIP 2021. Lecture Notes in Computer Science

      巻: 13111 ページ: 656-667

    • DOI

      10.1007/978-3-030-92273-3_54

    • 査読あり
  • [学会発表] 分類器の学習的な組み合わせによる虹彩と眼周囲情報を用いたマルチモーダル個人認証2021

    • 著者名/発表者名
      小川恵太, 亀山啓輔
    • 学会等名
      第20回情報科学技術フォーラム(FIT)
  • [学会発表] Teacher Assistant及び中間層を模倣するDistillationによるニューラルネットワークのモデル圧縮2021

    • 著者名/発表者名
      森川拓海, 亀山啓輔
    • 学会等名
      第20回情報科学技術フォーラム(FIT)
  • [学会発表] 虹彩認証における高次スペクトル特徴量の利用2021

    • 著者名/発表者名
      亀山啓輔
    • 学会等名
      信学技報, IEICE-MICT2021-35
    • 招待講演

URL: 

公開日: 2022-12-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi