• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2021 年度 実施状況報告書

情報リークを用いた深層学習の高度化

研究課題

研究課題/領域番号 21K11971
研究機関名城大学

研究代表者

堀田 一弘  名城大学, 理工学部, 教授 (40345426)

研究期間 (年度) 2021-04-01 – 2024-03-31
キーワード深層学習 / 情報リーク / GAN / マルチタスク / フィードバック
研究実績の概要

まずは1つのネットワーク内の情報リークとして出力確率を入力側にフィードバックする研究に行った。人間の脳内ではフィードフォワード処理だけでなくフィードフォワード処理も利用されていることが知られている。しかし、従来のConvolutional Neural Networkの推論ではフィードフォワード処理のみが利用されている。ここでは、セマンティックセグメンテーションの問題において、一度出力確率を得た後、その情報を入力側にフィードバックして再度同じネットワークで推論を行う方法を提案した。複数のデータセットを用いた実験により内部の情報を入力側にリークすることの有効性を示した。
また、Generative Adversarial Networkを用いたpix2pixでもセマンティックセグメンテーションは可能である。この方法では生成器と識別器が敵対的な学習を行うが、2つは独立なネットワークである。しかし、識別器は生成器が悪い部分を知っているはずなので、識別器から生成器に情報をリークすれば精度が改善すると考えられる。さらに、生成器側からも識別器に情報をリークすることにより、相互に精度を高め合うことができる。この方法により、従来のpix2pixよりも精度を改善した。
また、他のネットワークからの情報リークとして知識蒸留の研究も行った。通常の知識蒸留では教師と生徒ネットワークが同じクラス数の識別を行うが、ここでは2クラス毎にセグメンテーションした教師ネットワークから識別の方法をリークすることにより、出現頻度の低いクラスのセグメンテーション精度を向上させることができた。また、1つのネットワークの中でループ構造を導入し、情報フィードバックのような枠組みを利用することにより動画像認識の精度を高めた。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

情報リークをキーアイディアとしていくつかの研究を進め、国内会議および国際会議で研究成果を発表できた。また、Journalにも採択され、論文が掲載されたことからおおむね順調に進展していると言える。

今後の研究の推進方策

今後も1つのネットワーク内部での情報のフィードバックやループ構造、他のネットワークから得られる情報など、情報リークをキーアイディアとして様々な画像認識問題の精度向上を図る予定である。

次年度使用額が生じた理由

国内会議、国際会議がオンラインになったことで旅費が減ったことと、論文が国際会議とJournalに不採録になってしまったことで参加費や掲載料が不要になったことが理由です。
来年度に国際会議の参加費やJournal掲載料として使う予定です。

  • 研究成果

    (8件)

すべて 2022 2021

すべて 雑誌論文 (1件) (うち査読あり 1件、 オープンアクセス 1件) 学会発表 (7件) (うち国際学会 2件)

  • [雑誌論文] Cell Image Segmentation by Using Feedback and Convolutional LSTM2021

    • 著者名/発表者名
      E.Shibuya and K.Hotta
    • 雑誌名

      The Visual Computer

      巻: None ページ: 1-11

    • DOI

      10.1007/s00371-021-02221-3

    • 査読あり / オープンアクセス
  • [学会発表] Fusion of Different Features by Cross Cooperative Learning for Semantic Segmentation2022

    • 著者名/発表者名
      R.Ikedo and K.Hotta
    • 学会等名
      International Joint Conference on Computer Vision, Imaging and Computer Graphics Theory and Applications (VISAPP2022)
    • 国際学会
  • [学会発表] Localized Feature Aggregation Module for Semantic Segmentation2021

    • 著者名/発表者名
      R.Furukawa and K.Hotta
    • 学会等名
      IEEE International Conference on System, Man and Cybernetics
    • 国際学会
  • [学会発表] Bottleneck構造による3D Loop ResNetを用いた人間の行動予測2021

    • 著者名/発表者名
      各務嘉記,堀田 一弘
    • 学会等名
      電気・電子・情報関係学会 東海支部連合大会
  • [学会発表] Semantic Segmentationのための局所的特徴集約モジュール2021

    • 著者名/発表者名
      古川諒一,堀田 一弘
    • 学会等名
      画像の認識・理解シンポジウム
  • [学会発表] 3D Loop ResNetを用いた人間の行動予測2021

    • 著者名/発表者名
      各務嘉記,堀田 一弘
    • 学会等名
      画像の認識・理解シンポジウム
  • [学会発表] セマンティックセグメンテーションモデルの軽量化のためのクラス単位知識蒸留2021

    • 著者名/発表者名
      池戸僚汰,堀田 一弘
    • 学会等名
      画像の認識・理解シンポジウム
  • [学会発表] Adversarial Mutual Leakage Networkによるセマンティックセグメンテーション2021

    • 著者名/発表者名
      津田大輝, 堀田 一弘
    • 学会等名
      画像の認識・理解シンポジウム

URL: 

公開日: 2022-12-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi