• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2023 Fiscal Year Annual Research Report

EMDを用いた深層学習の学習過程の解析手法の検討

Research Project

Project/Area Number 23KJ2065
Research InstitutionMeijo University

Principal Investigator

加藤 聡太  名城大学, 理工学, 特別研究員(DC2)

Project Period (FY) 2023-04-25 – 2024-03-31
Keywords深層学習 / クラス不均衡 / クラス分類 / セマンティックセグメンテーション / Large margin / t-vMF similarity
Outline of Annual Research Achievements

これまでEarth Mover's Distance(EMD)を用いた深層学習の学習過程の解析および新たな学習収束条件の考案に関する研究を行ってきた.特にクラス不均衡化における学習解析を行い,解析結果からクラス不均衡に対して有効な新たな損失関数を2つ提案した.
(1)クラス不均衡な画像分類に対するLarge Marginに基づいた新たな損失関数の提案
従来提案されているLDAM loss,クラス不均衡な画像分類に広く利用されている.しかし,Softmax Cross Entropy loss本来に含まれているラージマージンとの関連性は明らかにされていない.そこで本研究ではSoftplus関数に基づくラージマージンの概念を用いてLDAM lossの式を再考する.さらに解析結果から,LDAM lossのマージンをさらに拡張したLabel Distribution Aware Enlarged-Margin(LDAM-EM)lossを提案する.クラス不均衡データセットを用いた実験結果から,提案手法を用いることで LDAM lossや従来の損失関数と比較して分類精度が大きく改善することを確認した.
(2)Adaptive t-vMF Dice lossを用いたMulit-class Medical Image Segmentationの精度改善
正解領域の面積がクラスごとに異なる多クラスセグメンテーションでは学習が不均衡になりやすく,全てのクラスに対して同じ類似度を用いる従来のDice lossでは,学習が不十分となる.そこで本研究ではDice lossの式を再考し, Dice loss がコ サイン類似度を用いた損失関数に変換できることを発見した.これを応用し,t-vMF類似度を用いたt-vMF Dice lossとAdaptive t-vMF Dice lossを提案する.提案する損失関数はDice lossよりもコンパクトな類似度を持ち,さらにクラスごとに異なる類似度を用いた適応的な学習が可能である.

  • Research Products

    (4 results)

All 2024 2023

All Journal Article (2 results) Presentation (2 results) (of which Int'l Joint Research: 1 results)

  • [Journal Article] Adaptive t-vMF dice loss: An effective expansion of dice loss for medical image segmentation2024

    • Author(s)
      Kato Sota、Hotta Kazuhiro
    • Journal Title

      Computers in Biology and Medicine

      Volume: 168 Pages: 107695~107695

    • DOI

      10.1016/j.compbiomed.2023.107695

  • [Journal Article] Expanded tube attention for tubular structure segmentation2023

    • Author(s)
      Kato Sota、Hotta Kazuhiro
    • Journal Title

      International Journal of Computer Assisted Radiology and Surgery

      Volume: 1 Pages: 1~7

    • DOI

      10.1007/s11548-023-03038-2

  • [Presentation] Enlarged Large Margin Loss For Imbalanced Classification2023

    • Author(s)
      Sota Kato, Kazuhiro Hotta
    • Organizer
      EEE International Conference on Systems, Man, and Cybernetics (SMC)
    • Int'l Joint Research
  • [Presentation] クラス不均衡な画像分類に対するLarge Marginに基づいた新たな損失関数の提案2023

    • Author(s)
      加藤聡太, 堀田一弘
    • Organizer
      第26回画像の認識・理解シンポジウム(MIRU2023)

URL: 

Published: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi