• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2022 年度 実施状況報告書

事前知識を導入した深層学習モデルの学習

研究課題

研究課題/領域番号 21K12049
研究機関広島大学

研究代表者

栗田 多喜夫  広島大学, 先進理工系科学研究科(工), 教授 (10356941)

研究分担者 日高 章理  東京電機大学, 理工学部, 准教授 (70553519)
研究期間 (年度) 2021-04-01 – 2024-03-31
キーワード事前知識 / 機械学習 / 深層学習 / 不変特徴抽出
研究実績の概要

訓練用のデータに基づいて学習したディープラーニングのモデルは,画像認識を始め多くの応用で高い性能を発揮し,現在の人工知能のブームを作り出している.本研究課題では,事前知識を積極的に学習に取り込む方法について研究する.具体的には,事前知識の取り込み方法の違いにより,(1)識別に無関係な変動に対して不変な特徴の抽出による学習の誘導,(2)事前知識を利用して訓練データを生成する手法の2つのサブ課題について研究する.
(1)識別に無関係な変動に対して不変な特徴の抽出による学習の誘導については,画像識別と画像の領域分割で新たな手法を開発し,国際会議で発表した.変動に頑健な画像識別の開発では,各サンプル画像に二つの異なる変動を加え,それらの画像をネットワークに入力し,得られた二つの特徴ベクトルがなるべく同じになるように誘導する正則化項(Barlow Twin Loss)を識別のための損失関数に加えた目的関数を最適化する学習法を提案した.また,U-Netを用いた領域分割においても,Self-Supervised Learningで利用されている方法を導入して,変動を加えた画像ペアの特徴ベクトルをなるべく近づけるように学習する領域分割手法を提案し,医療画像の領域分割課題において,ノイズなどの変動に頑健な画像の領域分割が可能であることを確認した.
(2)事前知識を利用して訓練データを生成する手法については,敵対的生成ネットワーク(Generative Adversarial Network (GAN))を利用した画像の生成において,望みの変動を加えた画像を生成できるように特徴空間を制御する方法を提案し,年齢や髪型などの変動を加えた自然な顔画像の生成が可能であることを確認した.
さらに,研究代表者等がこれまでに行ってきた事前知識を取り込んだ学習法についても,論文発表した.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

(1)識別に無関係な変動に対して不変な特徴の抽出による学習の誘導については,画像識別と領域分割にSelf-Supervised Learningで利用されている方法を導入する方法の有効性を確認した.(2)事前知識を利用して訓練データを生成する手法については,敵対的生成ネットワークを用いて,変動を制御する方法を提案した.二つのサブ課題ともに,順調に進捗している.

今後の研究の推進方策

サブ課題(1)識別に無関係な変動に対して不変な特徴の抽出による学習の誘導については,当初考えていたアイデアの有効性がほぼ確認できたので,次年度は,サブ課題(2)事前知識を利用して訓練データを生成する手法の開発に注力する.

次年度使用額が生じた理由

国際会議の多くがリモートでの開催となり,国際会議に出席するための旅費および参加費が削減された.次年度開催の国際会議や国内会議に出席するための旅費および参加費,GPUの更新などの実験環境の整備に利用する予定である.

  • 研究成果

    (11件)

すべて 2023 2022

すべて 雑誌論文 (5件) (うち国際共著 3件、 査読あり 5件、 オープンアクセス 3件) 学会発表 (6件) (うち国際学会 6件)

  • [雑誌論文] Data Expansion Approach with Attention Mechanism for Learning with Noisy Labels2023

    • 著者名/発表者名
      Nomura Yuichiro、Kurita Takio
    • 雑誌名

      International Journal on Artificial Intelligence Tools

      巻: 32 ページ: 1~19

    • DOI

      10.1142/S0218213023500276

    • 査読あり
  • [雑誌論文] Attention-effective multiple instance learning on weakly stem cell colony segmentation2023

    • 著者名/発表者名
      Yudistira Novanto、Kavitha Muthu Subash、Rajan Jeny、Kurita Takio
    • 雑誌名

      Intelligent Systems with Applications

      巻: 17 ページ: 200187~200187

    • DOI

      10.1016/j.iswa.2023.200187

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Weakly-Supervised Action Localization, and Action Recognition Using Global-Local Attention of 3D CNN2022

    • 著者名/発表者名
      Yudistira Novanto、Kavitha Muthu Subash、Kurita Takio
    • 雑誌名

      International Journal of Computer Vision

      巻: 130 ページ: 2349~2363

    • DOI

      10.1007/s11263-022-01649-x

    • 査読あり / 国際共著
  • [雑誌論文] Deep Neural Network Models for Colon Cancer Screening2022

    • 著者名/発表者名
      Kavitha Muthu Subash、Gangadaran Prakash、Jackson Aurelia、Venmathi Maran Balu Alagar、Kurita Takio、Ahn Byeong-Cheol
    • 雑誌名

      Cancers

      巻: 14 ページ: 3707~3707

    • DOI

      10.3390/cancers14153707

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Sample Selection Approach with Number of False Predictions for Learning with Noisy Labels2022

    • 著者名/発表者名
      NOMURA Yuichiro、KURITA Takio
    • 雑誌名

      IEICE Transactions on Information and Systems

      巻: E105.D ページ: 1759~1768

    • DOI

      10.1587/transinf.2022EDP7033

    • 査読あり / オープンアクセス
  • [学会発表] Improvement of Robustness to Noise for Medical Image Segmentation by using Self-Supervised Learning Approach2023

    • 著者名/発表者名
      Yuta Konishi and Takio Kurita
    • 学会等名
      The 29th International Workshop on Frontiers of Computer Vision (IW-FCV2023)
    • 国際学会
  • [学会発表] Summary of Works on Image Classification with Noisy Labels2022

    • 著者名/発表者名
      Yuichiro Nomura and Takio Kurita
    • 学会等名
      2022 International Power Electronics Conference, IPEC-Himeji 2022 -ECCE Asia-
    • 国際学会
  • [学会発表] Pixel Relationships-Based Regularizer for Retinal Vessel Image Segmentation2022

    • 著者名/発表者名
      Lukman Hakim and Takio Kurita
    • 学会等名
      2022 International Power Electronics Conference, IPEC-Himeji 2022 -ECCE Asia-
    • 国際学会
  • [学会発表] Graph Laplacian Regularization based on the Differences of Neighboring Pixels for Conditional Convolutions for Instance Segmentation2022

    • 著者名/発表者名
      Shinji Uchinoura and Takio Kurita
    • 学会等名
      2022 26th International Conference on Pattern Recognition (ICPR),
    • 国際学会
  • [学会発表] Supervised Learning for Convolutional Neural Network with Barlow Twins2022

    • 著者名/発表者名
      Ramyaa Murugan, Jonathan Mojoo and Takio Kurita
    • 学会等名
      Artificial Neural Networks and Machine Learning (ICANN 2022)
    • 国際学会
  • [学会発表] Additional Learning for Joint Probability Distribution Matching in BiGAN2022

    • 著者名/発表者名
      Jiazhou Zheng, Hiroaki Aizawa and Takio Kurita
    • 学会等名
      The 29th International Conference on Neural Information Processing (ICONIP)
    • 国際学会

URL: 

公開日: 2023-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi