• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2020 年度 実施状況報告書

少量学習データに対応可能な機械学習の基盤構築

研究課題

研究課題/領域番号 19K22863
研究機関東京大学

研究代表者

山崎 俊彦  東京大学, 大学院情報理工学系研究科, 准教授 (70376599)

研究期間 (年度) 2019-06-28 – 2022-03-31
キーワード少量学習データ / ドメイン適応 / 弱教師付き学習 / 半教師付き学習 / Few -Shot学習 / Zero-Shot学習
研究実績の概要

深層学習では、大規模データが特に重要であるが裏を返せばそのデータを取得・作成するための時間的・金銭的コストが大きな問題となる。本研究の目的は、この問題を解決するために、ドメイン適応、弱/半教師付き学習、Few/Zero-Shot学習など少量のデータでも学習可能なアルゴリズムを実現することである。
画像を別の用途で再利用しようとすると、画像中の影領域が問題になることがある。従来の影領域検出・除去の研究では影あり・影なしのペア画像を自前で生成して学習するのが一般的であった。しかし、実世界では2枚の画像を撮影する間にも刻一刻と日照などの撮影状況が変化するし、多くの形状の影を作ってバリエーションをもった影データセットを生成することは極めて困難であり、そのため精度低下が起きていた。この問題に対し、現実に近い影の生成モデルを定義し、CGと画像合成の技法を用いて大量の影あり・影なしのペア画像をメモリ上に生成する手法を考案し、実験の結果世界最高性能の影検出・影除去技術を実現できたことを確認した。研究開発した技術はIEEE TCSVTに掲載されたほか、オープンソースとして一般公開した。
また、映像の検索・認識の課題では、映像特徴表現の学習方法としてこれまでのオプティカルフローが必要な技術に変わる差分フレーム法を提案して超軽量で高精度な処理を実現した。さらに、Inter-intra contrastive learningという新たな自己教師あり学習法を提案し、小さなデータセットを用いたトレーニングで非常に高い検索・認識精度を実現した。
その他、Cycle-consistencyを利用した異モーダルデータに対するステレオマッチングや医療画像認識における精度低下の要因調査など挑戦的な課題に取り組んだ。

現在までの達成度 (区分)
現在までの達成度 (区分)

1: 当初の計画以上に進展している

理由

2年間の短期プロジェクトであるが、非常に多くの項目について順調に成果が出ている(ただしコロナの影響を受け、旅費などの執行がままならなかったことから研究期間を延長した)。
2020年度は特に多くの学術論文、国際会議論文を発表することができた (詳細は発表文献欄参照)。また、積極的に研究成果のオープンソース化を行った。コード公開から間がないにも関わらず、[Tao, ACMMM20]の公開コードには60以上の星、[Kosugi, AAAI20], [Inoue, TCSVT20]のコードにはそれぞれ30以上の星がつくなど、当該分野の発展に対して貢献できたことが伺える。
さらには、研究開発した技術の一部が企業との共同研究に発展したり、海外のテックブログで取り上げられたりするなど予期せぬ発展もあった。

今後の研究の推進方策

実社会の問題では、理想的にデザインされたベンチマークデータセットとは異なり、クラスごとのデータ数が極めてアンバランスな場合が多い。このような状況で通常の学習をすすめると、最頻出クラスに過適合を引き起こしてしまう。この問題に対し、学習データのアンバランスがあっても効果的に学習を進められる対照学習についてアイデアを得ており、実験・検証を進めていく。
また、対照学習を用いた学習はラベルが必要ないか軽微なラベルでよいという利点があり、多くの可能性を感じている。特に動画処理はラベリングのコストが高く現実的でないため、例えば映像要約や映像編集に対照学習をうまく使うことで少量のラベルデータしかない状況でも効果的に学習できる手法を模索していく予定である。

次年度使用額が生じた理由

コロナの影響により旅費等の執行ができなかったことに依り、予定通りの予算消化ができなかった。
2021年度は本成果の外部発表のための英文校正や出版費用に支出予定である。

  • 研究成果

    (14件)

すべて 2020 その他

すべて 国際共同研究 (1件) 雑誌論文 (6件) (うち査読あり 6件、 オープンアクセス 3件) 学会発表 (7件) (うち国際学会 7件)

  • [国際共同研究] 清華大学(中国)

    • 国名
      中国
    • 外国機関名
      清華大学
  • [雑誌論文] Toward Better Planetary Surface Exploration by Mars Orbital Imagery Inpainting2020

    • 著者名/発表者名
      Hiya Roy, Subhajit Chaudhury, Toshihiko Yamasaki, and Tatsuaki Hashimoto
    • 雑誌名

      IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing

      巻: - ページ: -

    • DOI

      10.1109/JSTARS.2020.3038778

    • 査読あり
  • [雑誌論文] Object-aware Instance Labeling for Weakly Suprevised Object Detection2020

    • 著者名/発表者名
      Satoshi Kosugi and Toshihiko Yamasaki
    • 雑誌名

      Journal of the Imaging Society Japan

      巻: 59 ページ: 585-590

    • DOI

      10.11370/isj.59.585

    • 査読あり
  • [雑誌論文] Robustness of deep learning models in dermatological evaluation: A critical assessment2020

    • 著者名/発表者名
      Sourav Mishra, Subhajit Chaudhary, Hideaki Imaizumi, and Toshihiko Yamasaki
    • 雑誌名

      IEICE Transactions on Information & Systems

      巻: E104-D ページ: 419-429

    • DOI

      10.1587/transinf.2020EDP7133

    • 査読あり / オープンアクセス
  • [雑誌論文] Learning from Synthetic Shadows for Shadow Detection and Removal2020

    • 著者名/発表者名
      Naoto Inoue and Toshihiko Yamasaki
    • 雑誌名

      IEEE Transactions on Circuits and Systems for Video Technology

      巻: - ページ: -

    • DOI

      10.1109/TCSVT.2020.3047977

    • 査読あり / オープンアクセス
  • [雑誌論文] Benchmarking robustness in deep learning under adversarial distribution shifts in medical image analysis2020

    • 著者名/発表者名
      Subhajit Chaudhury and Toshihiko Yamasaki
    • 雑誌名

      IEEE Access

      巻: 9 ページ: 37039-37053

    • DOI

      10.1109/ACCESS.2021.3062990

    • 査読あり / オープンアクセス
  • [雑誌論文] Image Inpainting using Frequency Domain Priors2020

    • 著者名/発表者名
      Hiya Roy, Subhajit Chaudhury, Toshihiko Yamasaki, and Tatsuaki Hashimoto
    • 雑誌名

      SPIE Journal of Electronic Imaging

      巻: 30 ページ: -

    • DOI

      10.1117/1.JEI.30.2.023016

    • 査読あり
  • [学会発表] Investigating generalization in neural networks under optimally evolved training perturbations2020

    • 著者名/発表者名
      Subhajit Chaudhury and Toshihiko Yamasaki
    • 学会等名
      The 45th International Conference on Acoustics, Speech, and Signal Processing (ICASSP 2020)
    • 国際学会
  • [学会発表] Weakly supervised segmentation guided hand pose estimation during interaction with unknown objects2020

    • 著者名/発表者名
      Cairong Zhang, Guijin Wang, Xinghao Chen, Pengwei Xie, and Toshihiko Yamasaki
    • 学会等名
      The 45th International Conference on Acoustics, Speech, and Signal Processing (ICASSP 2020)
    • 国際学会
  • [学会発表] Assessing Robustness of Deep Learning Methods in Dermatological Workflow2020

    • 著者名/発表者名
      Sourav Mishra, Subhajit Chaudhary, Hideaki Imaizumi, and Toshihiko Yamasaki
    • 学会等名
      Workshop of the ACM Conference on Health, Inference, and Learning (CHIL)
    • 国際学会
  • [学会発表] Self-supervised Video Representation Learning Using Inter-intra Contrastive Framework2020

    • 著者名/発表者名
      Li Tao, Xueting Wang, and Toshihiko Yamasaki
    • 学会等名
      the 28th ACM International Conference on Multimedia (MM '20)
    • 国際学会
  • [学会発表] Motion Representation Using Residual Frames with 3D CNN2020

    • 著者名/発表者名
      Li Tao, Xueting Wang and T. Yamasaki
    • 学会等名
      2020 IEEE International Conference on Image Processing (ICIP)
    • 国際学会
  • [学会発表] Feature Point Matching in Cross-Spectral Images with Cycle Consistency Learning2020

    • 著者名/発表者名
      Ryosuke Furuta, Naoaki Noguchi, Xueting Wang, Toshihiko Yamasaki
    • 学会等名
      2020 25th International Conference on Pattern Recognition (ICPR)
    • 国際学会
  • [学会発表] Very Important Person Localization in Unconstrained Conditions: A New Benchmark2020

    • 著者名/発表者名
      Xiao Wang, Zheng Wang, Toshihiko Yamasaki, and Wenjun Zeng
    • 学会等名
      The Thirty-Fifth AAAI Conference on Artificial Intelligence (AAAI-21)
    • 国際学会

URL: 

公開日: 2021-12-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi