• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

EMDを用いた深層学習の学習過程の解析手法の検討

Research Project

Project/Area Number 23KJ2065
Research Category

Grant-in-Aid for JSPS Fellows

Allocation TypeMulti-year Fund
Section国内
Review Section Basic Section 61010:Perceptual information processing-related
Research InstitutionMeijo University

Principal Investigator

加藤 聡太  名城大学, 理工学, 特別研究員(DC2)

Project Period (FY) 2023-04-25 – 2024-03-31
Project Status Discontinued (Fiscal Year 2023)
Budget Amount *help
¥2,000,000 (Direct Cost: ¥2,000,000)
Fiscal Year 2024: ¥1,000,000 (Direct Cost: ¥1,000,000)
Fiscal Year 2023: ¥1,000,000 (Direct Cost: ¥1,000,000)
Keywords深層学習 / クラス不均衡 / クラス分類 / セマンティックセグメンテーション / Large margin / t-vMF similarity
Outline of Research at the Start

本研究では、Earth Mover's Distance(EMD)を用いた深層学習の学習過程の解析および新たな学習収束条件の考案を目的と、様々な条件に対してEMDを用いた解析方法の有効性を確認する。
(1)学習時のネットワーク層間の特徴量間のEMD測定から、EMDと精度との関係を明らかにする。
(2)過学習現象とEMDとの関係性を明らかにし、EMD最小化の正則化による過学習抑制の効果を確認する。
(3)クラス不均衡が発生するデータを用いた場合のEMD解析を行い、正解クラスの経路に対するEMDを最大化、不正解クラスの経路に対するEMDを最小化することで、クラスごとの輸送経路の偏り抑制の効果を確認する。

Outline of Annual Research Achievements

これまでEarth Mover's Distance(EMD)を用いた深層学習の学習過程の解析および新たな学習収束条件の考案に関する研究を行ってきた.特にクラス不均衡化における学習解析を行い,解析結果からクラス不均衡に対して有効な新たな損失関数を2つ提案した.
(1)クラス不均衡な画像分類に対するLarge Marginに基づいた新たな損失関数の提案
従来提案されているLDAM loss,クラス不均衡な画像分類に広く利用されている.しかし,Softmax Cross Entropy loss本来に含まれているラージマージンとの関連性は明らかにされていない.そこで本研究ではSoftplus関数に基づくラージマージンの概念を用いてLDAM lossの式を再考する.さらに解析結果から,LDAM lossのマージンをさらに拡張したLabel Distribution Aware Enlarged-Margin(LDAM-EM)lossを提案する.クラス不均衡データセットを用いた実験結果から,提案手法を用いることで LDAM lossや従来の損失関数と比較して分類精度が大きく改善することを確認した.
(2)Adaptive t-vMF Dice lossを用いたMulit-class Medical Image Segmentationの精度改善
正解領域の面積がクラスごとに異なる多クラスセグメンテーションでは学習が不均衡になりやすく,全てのクラスに対して同じ類似度を用いる従来のDice lossでは,学習が不十分となる.そこで本研究ではDice lossの式を再考し, Dice loss がコ サイン類似度を用いた損失関数に変換できることを発見した.これを応用し,t-vMF類似度を用いたt-vMF Dice lossとAdaptive t-vMF Dice lossを提案する.提案する損失関数はDice lossよりもコンパクトな類似度を持ち,さらにクラスごとに異なる類似度を用いた適応的な学習が可能である.

Report

(1 results)
  • 2023 Annual Research Report
  • Research Products

    (4 results)

All 2024 2023

All Journal Article (2 results) (of which Peer Reviewed: 1 results,  Open Access: 1 results) Presentation (2 results) (of which Int'l Joint Research: 1 results)

  • [Journal Article] Adaptive t-vMF dice loss: An effective expansion of dice loss for medical image segmentation2024

    • Author(s)
      Kato Sota、Hotta Kazuhiro
    • Journal Title

      Computers in Biology and Medicine

      Volume: 168 Pages: 107695-107695

    • DOI

      10.1016/j.compbiomed.2023.107695

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] Expanded tube attention for tubular structure segmentation2023

    • Author(s)
      Kato Sota、Hotta Kazuhiro
    • Journal Title

      International Journal of Computer Assisted Radiology and Surgery

      Volume: 1 Issue: 11 Pages: 1-7

    • DOI

      10.1007/s11548-023-03038-2

    • Related Report
      2023 Annual Research Report
  • [Presentation] Enlarged Large Margin Loss For Imbalanced Classification2023

    • Author(s)
      Sota Kato, Kazuhiro Hotta
    • Organizer
      EEE International Conference on Systems, Man, and Cybernetics (SMC)
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] クラス不均衡な画像分類に対するLarge Marginに基づいた新たな損失関数の提案2023

    • Author(s)
      加藤聡太, 堀田一弘
    • Organizer
      第26回画像の認識・理解シンポジウム(MIRU2023)
    • Related Report
      2023 Annual Research Report

URL: 

Published: 2023-04-26   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi