• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

EMDを用いた深層学習の学習過程の解析手法の検討

研究課題

研究課題/領域番号 23KJ2065
研究種目

特別研究員奨励費

配分区分基金
応募区分国内
審査区分 小区分61010:知覚情報処理関連
研究機関名城大学

研究代表者

加藤 聡太  名城大学, 理工学, 特別研究員(DC2)

研究期間 (年度) 2023-04-25 – 2024-03-31
研究課題ステータス 中途終了 (2023年度)
配分額 *注記
2,000千円 (直接経費: 2,000千円)
2024年度: 1,000千円 (直接経費: 1,000千円)
2023年度: 1,000千円 (直接経費: 1,000千円)
キーワード深層学習 / クラス不均衡 / クラス分類 / セマンティックセグメンテーション / Large margin / t-vMF similarity
研究開始時の研究の概要

本研究では、Earth Mover's Distance(EMD)を用いた深層学習の学習過程の解析および新たな学習収束条件の考案を目的と、様々な条件に対してEMDを用いた解析方法の有効性を確認する。
(1)学習時のネットワーク層間の特徴量間のEMD測定から、EMDと精度との関係を明らかにする。
(2)過学習現象とEMDとの関係性を明らかにし、EMD最小化の正則化による過学習抑制の効果を確認する。
(3)クラス不均衡が発生するデータを用いた場合のEMD解析を行い、正解クラスの経路に対するEMDを最大化、不正解クラスの経路に対するEMDを最小化することで、クラスごとの輸送経路の偏り抑制の効果を確認する。

研究実績の概要

これまでEarth Mover's Distance(EMD)を用いた深層学習の学習過程の解析および新たな学習収束条件の考案に関する研究を行ってきた.特にクラス不均衡化における学習解析を行い,解析結果からクラス不均衡に対して有効な新たな損失関数を2つ提案した.
(1)クラス不均衡な画像分類に対するLarge Marginに基づいた新たな損失関数の提案
従来提案されているLDAM loss,クラス不均衡な画像分類に広く利用されている.しかし,Softmax Cross Entropy loss本来に含まれているラージマージンとの関連性は明らかにされていない.そこで本研究ではSoftplus関数に基づくラージマージンの概念を用いてLDAM lossの式を再考する.さらに解析結果から,LDAM lossのマージンをさらに拡張したLabel Distribution Aware Enlarged-Margin(LDAM-EM)lossを提案する.クラス不均衡データセットを用いた実験結果から,提案手法を用いることで LDAM lossや従来の損失関数と比較して分類精度が大きく改善することを確認した.
(2)Adaptive t-vMF Dice lossを用いたMulit-class Medical Image Segmentationの精度改善
正解領域の面積がクラスごとに異なる多クラスセグメンテーションでは学習が不均衡になりやすく,全てのクラスに対して同じ類似度を用いる従来のDice lossでは,学習が不十分となる.そこで本研究ではDice lossの式を再考し, Dice loss がコ サイン類似度を用いた損失関数に変換できることを発見した.これを応用し,t-vMF類似度を用いたt-vMF Dice lossとAdaptive t-vMF Dice lossを提案する.提案する損失関数はDice lossよりもコンパクトな類似度を持ち,さらにクラスごとに異なる類似度を用いた適応的な学習が可能である.

報告書

(1件)
  • 2023 実績報告書
  • 研究成果

    (4件)

すべて 2024 2023

すべて 雑誌論文 (2件) (うち査読あり 1件、 オープンアクセス 1件) 学会発表 (2件) (うち国際学会 1件)

  • [雑誌論文] Adaptive t-vMF dice loss: An effective expansion of dice loss for medical image segmentation2024

    • 著者名/発表者名
      Kato Sota、Hotta Kazuhiro
    • 雑誌名

      Computers in Biology and Medicine

      巻: 168 ページ: 107695-107695

    • DOI

      10.1016/j.compbiomed.2023.107695

    • 関連する報告書
      2023 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Expanded tube attention for tubular structure segmentation2023

    • 著者名/発表者名
      Kato Sota、Hotta Kazuhiro
    • 雑誌名

      International Journal of Computer Assisted Radiology and Surgery

      巻: 1 号: 11 ページ: 1-7

    • DOI

      10.1007/s11548-023-03038-2

    • 関連する報告書
      2023 実績報告書
  • [学会発表] Enlarged Large Margin Loss For Imbalanced Classification2023

    • 著者名/発表者名
      Sota Kato, Kazuhiro Hotta
    • 学会等名
      EEE International Conference on Systems, Man, and Cybernetics (SMC)
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] クラス不均衡な画像分類に対するLarge Marginに基づいた新たな損失関数の提案2023

    • 著者名/発表者名
      加藤聡太, 堀田一弘
    • 学会等名
      第26回画像の認識・理解シンポジウム(MIRU2023)
    • 関連する報告書
      2023 実績報告書

URL: 

公開日: 2023-04-26   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi