• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2019 年度 実施状況報告書

少量学習データに対応可能な機械学習の基盤構築

研究課題

研究課題/領域番号 19K22863
研究機関東京大学

研究代表者

山崎 俊彦  東京大学, 大学院情報理工学系研究科, 准教授 (70376599)

研究期間 (年度) 2019-06-28 – 2021-03-31
キーワード少量学習データ / ドメイン適応 / 弱教師付き学習 / 半教師付き学習 / Few -Shot学習 / Zero-Shot学習
研究実績の概要

深層学習では、大規模データが特に重要であるが裏を返せばそのデータを取得・作成するための時間的・金銭的コストが大きな問題となる。本研究の目的は、この問題を解決するために、ドメイン適応、弱/半教師付き学習、Few/Zero-Shot学習など少量のデータでも学習可能なアルゴリズムを実現することである。
弱教師付き物体検出、すなわち画像中に何が写っているかはわかるものの位置を示すバウンディングボックスがないといった問題設定下において、バウンディングボックスの位置を逐次アップデートする手法を確立た。弱教師付き物体検出分野で世界最高性能を実現するとともに、難関国際会議ICCVにて口頭発表した。さらに、ソースコードをオープンソースとして一般公開した。
Few/Zero-Shot学習について、Zero-shot semantic segmentation (意味に基づく画像領域分割)とZero-shot conditional inpainting (画像修復)の2つの課題について取り組んだ。いずれも当該クラスの画像を1度も見たことのない状態で言語など他のドメインから知識を得て処理をおこなうものであり、世界に先駆けた研究の1つである。
画像のStyle Transferにおいて、ソースとターゲットで全くペアが存在せずそれぞれ独立にデータが収集された状況でも学習が行えるフレームワークを実現し、大規模主観評価にてその有効性を確認した。難関国際会議AAAIにて発表した。
また、医療画像を対象に、様々な環境下で撮影された画像を単一のモデルで扱かったときの性能限界とその理由について検討を行った。

現在までの達成度 (区分)
現在までの達成度 (区分)

1: 当初の計画以上に進展している

理由

2年間の短期プロジェクトであるが、非常に多くの項目について成果が出ている。そのハイライトをいくつか列挙する。
弱教師付き物体検出について。深層学習は学習データにノイズを多く含むほど学習の収束速度が遅くなれることが報告されている。その特徴を逆手にとって、「良いバウンディングボックスはその領域を隠したときに深層学習がうまく学習できなくなるようなものである」という仮説を立てた。この条件をより強く満たすようなバウンディングボックスを探索することで精度の高いボックスの設定ができるようになった。また、従来の手法では暗に物体は画像中に1つだけ存在することを仮定しており、2つ以上存在するときそれらが逆に精度を低下させる原因になっていた。画像中にいくつ存在するかは事前に知ることは出来ないため、2つ以上存在した場合それらの存在を考慮に入れないで学習をすすめる手法を提案した。これら2つの手法を組み合わせることにより、世界最高性能かつ当時としては最新技術より大幅な向上率を実現した高精度な物体検出アルゴリズムを実現した。
Unpaired Image Style Transferに関する検討を行った。従来のImage Style Transferではソースとターゲットでペアとなったデータが求められる、操作結果に対して説明や少修正が与えられないなどの問題があった。そこで、強化学習を利用して微分不可能な外部画像編集ツールを操作させる学習を行い、Descriminatorを利用してターゲットの学習データと遜色ないかを判別するという手法を実現した。主観評価において圧倒的な高評価を得たとともに、間に外部画像編集ツールを用いることで深層学習にありがちな画像のノイズや論理的破綻を防ぐことに成功した。

今後の研究の推進方策

企業との共同研究をすすめる中で、実データはデータの正例と反例の数が極めてアンバランスな状況が多いことを痛感している。例が少ない方のデータを増やすことは研究では可能であるが、実応用上は現実的でない。そこで、学習データのアンバランスがあっても効果的に学習を進められるアルゴリズムについて検討を進めていく。
また、現在の深層学習は大量のデータを用いた力技で様々なタスクを解こうとするものが多い。画像の意味を考慮して画像間で適切な意味の対応付を行うことで安定かつ高速に学習が進む可能性を予備検討により得ている。今後、より詳細な検討や大規模実験によってこの仮説を実証していく。
さらには、少ない学習データであるほど機械学習機の判断や予測が過学習や当てずっぽうでないことを示すための「説明可能性」が求められると感じている。そこで、特に医療画像など少数のデータしか得られないような状況下において説明可能なAIの検討を行っていく。

備考

一部の研究成果についてはソースコードをオープンソースとしてGithubで公開中。

  • 研究成果

    (12件)

すべて 2020 2019 その他

すべて 国際共同研究 (1件) 学会発表 (9件) (うち国際学会 8件、 招待講演 1件) 備考 (1件) 産業財産権 (1件)

  • [国際共同研究] 清華大学(中国)

    • 国名
      中国
    • 外国機関名
      清華大学
  • [学会発表] Assessing Robustness of Deep Learning Methods in Dermatological Workflow2020

    • 著者名/発表者名
      Sourav Mishra, Subhajit Chaudhary, Hideaki Imaizumi, and Toshihiko Yamasaki
    • 学会等名
      Workshop of the ACM Conference on Health, Inference, and Learning (CHIL)
    • 国際学会
  • [学会発表] Improving image classifiers for small datasets by learning rate adaptations2019

    • 著者名/発表者名
      Sourav Mishra, Toshihiko Yamasaki, and Hideaki Imaizumi
    • 学会等名
      The 16th International Conference on Machine Vision Applications (MVA)
    • 国際学会
  • [学会発表] Interpreting fine-grained dermatological classification by Deep learning2019

    • 著者名/発表者名
      Sourav Mishra, Hideaki Imaizumi, and Toshihiko Yamasaki
    • 学会等名
      ISIC Skin Image Analysis Workshop at CVPR
    • 国際学会
  • [学会発表] Reinforcing the robustness of a deep neural network to adversarial examples by using color quantization of training image data2019

    • 著者名/発表者名
      Shuntaro Miyazato, Xueting WANG, Toshihiko Yamasaki, and Kiyoharu Aizawa
    • 学会等名
      2019 IEEE International Conference on Image (ICIP)
    • 国際学会
  • [学会発表] Zero-Shot Semantic Segmentation via Variational Mapping2019

    • 著者名/発表者名
      Naoki Kato, Toshihiko Yamasaki, and Kiyoharu Aizawa
    • 学会等名
      ICCV 2019 Workshop on Multi-Discipline Approach for Learning Concepts - Zero-Shot One-Shot Few-Shot and Beyond
    • 国際学会
  • [学会発表] Object-aware instance labeling for weakly supervised object detection2019

    • 著者名/発表者名
      Satoshi Kosugi, Toshihiko Yamasaki, and Kiyoharu Aizawa
    • 学会等名
      International Conference on Computer Vision (ICCV)
    • 国際学会
  • [学会発表] Weakly Supervised Video Summarization by Hierarchical Reinforcement Learning2019

    • 著者名/発表者名
      Yiyan Chen, Li Tao, Xueting Wang, and Toshihiko Yamasaki
    • 学会等名
      ACMMM Asia
    • 国際学会
  • [学会発表] Unpaired Image Enhancement Featuring Reinforcement-Learning-Controlled Image Editing Software2019

    • 著者名/発表者名
      Satoshi Kosugi and Toshihiko Yamasaki
    • 学会等名
      The Thirty-Fourth AAAI Conference on Artificial Intelligence (AAAI)
    • 国際学会
  • [学会発表] 情報科学者から見た医療AIの現状と可能性2019

    • 著者名/発表者名
      山崎俊彦
    • 学会等名
      第59回日本核医学会総会
    • 招待講演
  • [備考]

    • URL

      https://www.hal.t.u-tokyo.ac.jp/~yamasaki/project/index-e.html

  • [産業財産権] 画像解析装置、画像解析方法及び画像解析プログラム2019

    • 発明者名
      山崎俊彦, 小杉哲
    • 権利者名
      山崎俊彦, 小杉哲
    • 産業財産権種類
      特許
    • 産業財産権番号
      特願2019- 82100

URL: 

公開日: 2021-01-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi