• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2020 年度 実績報告書

画像認識のための文脈とトップダウン情報を利用した中間表現の獲得に関する研究

研究課題

研究課題/領域番号 16K00239
研究機関広島大学

研究代表者

栗田 多喜夫  広島大学, 先進理工系科学研究科(工), 教授 (10356941)

研究分担者 日高 章理  東京電機大学, 理工学部, 准教授 (70553519)
研究期間 (年度) 2016-04-01 – 2021-03-31
キーワード画像認識 / 機械学習 / 人工知能 / 深層学習
研究実績の概要

深層学習(Deep Learning),特に,Deep Convolutional Neural Networkを用いることで画像認識の性能が飛躍的に向上した.本研究課題では,ニューラルネットワークの学習法に関する知見や脳の視覚情報処理に関する知見を取り入れた画像認識の研究を発展させ,深層学習を用いた画像認識等の応用の拡大を目指している.
今年度は,汎化性能の高いモデルを学習するために,学習済みのニューラルネットワークから不要なニューロンを削除するためのPruning手法や最適なニューラルネットワークの構造を探索する方法について検討した.具体的には,ミニバッチ内での極端な値にも頑健な評価方法を提案し,Pruning手法に利用した.また,階層的なグループLassoを利用して,不要なニューロンのパラメータを無視するよう学習する手法を提案した.さらには,不要なニューロンを削除するだけでなく,必要なニューロンを追加することで,最適なニューラルネットワーク構造を探索する手法についても検討した.その他,学習済みの高性能な大規模ニューラルネットワーク(教師ネットワーク)の振る舞いを小規模なネットワーク(学生ネットワーク)で模倣する学習法(Knowledge Distillation)にTriplet Lossを導入し,入出力を模倣するだけでなく,異なるクラスのサンプルは遠ざけるようにすることで性能が向上することを確認した.
また,不完全な教師信号での学習法を開発した.具体的には,Graph Label Propagationを利用して,教師ラベルに誤りを含む場合の学習法を提案した.また,教師信号として年代しか与えられていない場合の顔画像からの年齢推定の手法を提案した.

  • 研究成果

    (11件)

すべて 2021 2020

すべて 雑誌論文 (3件) (うち国際共著 2件、 査読あり 3件、 オープンアクセス 3件) 学会発表 (8件) (うち国際学会 8件)

  • [雑誌論文] Robust pruning for efficient CNNs2020

    • 著者名/発表者名
      Ide Hidenori、Kobayashi Takumi、Watanabe Kenji、Kurita Takio
    • 雑誌名

      Pattern Recognition Letters

      巻: 135 ページ: 90~98

    • DOI

      10.1016/j.patrec.2020.03.034

    • 査読あり / オープンアクセス
  • [雑誌論文] Completion of Missing Labels for Multi-Label Annotation by a Unified Graph Laplacian Regularization2020

    • 著者名/発表者名
      MOJOO Jonathan、ZHAO Yu、KAVITHA Muthu Subash、MIYAO Junichi、KURITA Takio
    • 雑誌名

      IEICE Transactions on Information and Systems

      巻: E103.D ページ: 2154~2161

    • DOI

      10.1587/transinf.2019EDP7318

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Mixture of experts with convolutional and variational autoencoders for anomaly detection2020

    • 著者名/発表者名
      Yu Qien、Kavitha Muthu Subash、Kurita Takio
    • 雑誌名

      Applied Intelligence

      巻: - ページ: 1

    • DOI

      10.1007/s10489-020-01944-5

    • 査読あり / オープンアクセス / 国際共著
  • [学会発表] q-SNE: Visualizing Data using q-Gaussian Distributed Stochastic Neighbor Embedding2021

    • 著者名/発表者名
      Motoshi Abe, Junichi Miyao and Takio Kurita
    • 学会等名
      25th International Conference on Pattern Recognition (ICPR)
    • 国際学会
  • [学会発表] Filter Pruning using Hierarchical Group Sparse Regularization for Deep Convolutional Neural Networks2021

    • 著者名/発表者名
      Kakeru Mitsuno, Junichi Miyao and Takio Kurita
    • 学会等名
      25th International Conference on Pattern Recognition (ICPR)
    • 国際学会
  • [学会発表] Channel Planting for Deep Neural Networks using Knowledge Distillation2021

    • 著者名/発表者名
      Kakeru Mitsuno, Yuichiro Nomura, Takio Kurita
    • 学会等名
      25th International Conference on Pattern Recognition (ICPR)
    • 国際学会
  • [学会発表] Robust Training of Deep Neural Networks with Noisy Labels by Graph Label Propagation2021

    • 著者名/発表者名
      Yuichiro Nomura and Takio Kurita
    • 学会等名
      The 27th International Workshop on Frontiers of Computer Vision (IW-FCV2021)
    • 国際学会
  • [学会発表] Age Estimation from the Age Period by using Triplet Network2021

    • 著者名/発表者名
      Gaojian Zhang and Takio Kurita
    • 学会等名
      The 27th International Workshop on Frontiers of Computer Vision (IW-FCV2021)
    • 国際学会
  • [学会発表] Hierarchical Group Sparse Regularization for Deep Convolutional Neural Networks2020

    • 著者名/発表者名
      Kakeru Mitsuno, Junichi Miyao and Takio Kurit
    • 学会等名
      The International Joint Conference on Neural Networks (IJCNN)
    • 国際学会
  • [学会発表] Triplet Loss for Knowledge Distillation2020

    • 著者名/発表者名
      Hideki Oki, Motoshi Abe, Junichi Miyao and Takio Kurita
    • 学会等名
      The International Joint Conference on Neural Networks (IJCNN)
    • 国際学会
  • [学会発表] Adaptive Neuron-wise Discriminant Criterion and Adaptive Center Loss at Hidden Layer for Deep Convolutional Neural Network2020

    • 著者名/発表者名
      Motoshi Abe, Junichi Miyao and Takio Kurita
    • 学会等名
      The International Joint Conference on Neural Networks (IJCNN)
    • 国際学会

URL: 

公開日: 2021-12-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi