• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2023 Fiscal Year Annual Research Report

情報リークを用いた深層学習の高度化

Research Project

Project/Area Number 21K11971
Research InstitutionMeijo University

Principal Investigator

堀田 一弘  名城大学, 理工学部, 教授 (40345426)

Project Period (FY) 2021-04-01 – 2024-03-31
Keywords深層学習 / 情報リーク
Outline of Annual Research Achievements

通常、セマンティックセグメンテーションを行う際には、入力画像と画素単位に付けられたアノテーションを用いて教師あり学習を行う。そして、テスト時にはテスト画像のみを学習したネットワークに入力して画素単位で識別を行い、セグメンテーション結果を出力する。ここでは、テスト時にも入力画像とアノテーションの情報を利用し、そこから情報をリークしながらテスト画像のセグメンテーションを行う方法を提案した。テスト時にもアノテーションを利用するという新しい方法を提案し、細胞画像のセグメンテーション精度を改善した。この結果をCVPR2023の顕微鏡画像解析に関するWorkshopで発表した。
また、ネットワークが学習を行っている途中で新しいクラスの画像が与えられるという継続学習の問題において、学習可能なクラス代表ベクトルの情報および、クラスマージンを用いたロス関数を上手く利用することにより、従来手法よりも精度が改善することを示した。この結果をICCV2023の継続学習に関するWorkshopで発表した。
近年、画像認識分野でのVision Transformerの有効性が報告されているが、従来のConvolutional Neural Networkよりも大量の学習画像の枚数が必要となると言われている。ここでは、画像からクラスタリングにより作成したWord Patchesを作成し、これをVision Transformerの途中から入力する方法を提案した。つまり、Word Patchesから情報をリークしながら学習および推論を行うことになる。この方法により、従来手法よりも認識精度を改善することができた。

  • Research Products

    (14 results)

All 2024 2023

All Presentation (14 results) (of which Int'l Joint Research: 7 results)

  • [Presentation] Improvement of TransUNet UsingWord Patches Created From Different Dataset2024

    • Author(s)
      A.Takama and K.Hotta
    • Organizer
      International Conference on Pattern Recognition Applications and Methods (ICPRAM2024)
    • Int'l Joint Research
  • [Presentation] Margin Contrastive Learning with Learnable-Vector for Continual Learning2023

    • Author(s)
      K.Nagata and K.Hotta
    • Organizer
      ICCV Workshop on Visual Continual Learning
    • Int'l Joint Research
  • [Presentation] One-shot and Partially-Supervised Cell Image Segmentation Using Small Visual Prompt2023

    • Author(s)
      S.Kato and K.Hotta
    • Organizer
      CVPR Workshop on Computer Vision for Microscopy Image Analysis (CVMI2023)
    • Int'l Joint Research
  • [Presentation] Shuffle Mixing: An Efficient Alternative to Self Attention2023

    • Author(s)
      R.Furukawa and K.Hotta
    • Organizer
      18th International Joint Conference on Computer Vision, Imaging and Computer Graphics Theory and Applications (VISAPP2023)
    • Int'l Joint Research
  • [Presentation] Improvement of Vision Transformer Using Word Patches2023

    • Author(s)
      A.Takama, S.Kato, S.Kamiya, and K.Hotta
    • Organizer
      18th International Joint Conference on Computer Vision, Imaging and Computer Graphics Theory and Applications (VISAPP2023)
    • Int'l Joint Research
  • [Presentation] Semantic Segmentation by Semi-Supervised Learning Using Time Series Constraint2023

    • Author(s)
      T.Mano, S.Kato and K.Hotta
    • Organizer
      18th International Joint Conference on Computer Vision, Imaging and Computer Graphics Theory and Applications (VISAPP2023)
    • Int'l Joint Research
  • [Presentation] Class-wise Knowledge Distillation for Lightweight Segmentation Model2023

    • Author(s)
      R.Ikedo, K.Nagata, and K.Hotta
    • Organizer
      16th International Conference on Bio-inspired Systems and Signal Processing (BIOSIGNALS2023)
    • Int'l Joint Research
  • [Presentation] 自己蒸留を用いたOnline Class-Incremental Learningの精度向上2023

    • Author(s)
      永田耕太郎, 堀田一弘
    • Organizer
      DIA2024
  • [Presentation] 特徴量の分布に着目した汎用的な細胞画像のセグメンテーションのためのマルチドメイン学習2023

    • Author(s)
      土井田啓輔, 堀田一弘
    • Organizer
      MIRU2023
  • [Presentation] オンライン継続学習のための学習可能ベクトルを用いた対照学習2023

    • Author(s)
      永田耕太郎, 堀田一弘
    • Organizer
      MIRU2023
  • [Presentation] Word Patchesを用いたTransUNetの精度向上2023

    • Author(s)
      髙間斐斗, 神谷聡, 堀田一弘
    • Organizer
      MIRU2023
  • [Presentation] Enhancing Ensemble Learning Networks2023

    • Author(s)
      古川諒一, 堀田一弘
    • Organizer
      MIRU2023
  • [Presentation] 未来方向と過去方向のオプティカルフローを用いた半教師あり学習によるセマンティックセグメンテーション2023

    • Author(s)
      真野嵩大, 神谷聡, 堀田一弘
    • Organizer
      MIRU2023
  • [Presentation] セマンティックセグメンテーションにおけるAxial-Attentionによる自己知識蒸留2023

    • Author(s)
      佐々木孝輔, 堀田一弘
    • Organizer
      MIRU2023

URL: 

Published: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi