• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2021 Fiscal Year Annual Research Report

自然の形成原理に則した深層学習の真相究明

Research Project

Project/Area Number 19H01134
Research InstitutionNational Institute of Advanced Industrial Science and Technology

Principal Investigator

片岡 裕雄  国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 主任研究員 (70784883)

Co-Investigator(Kenkyū-buntansha) 中村 明生  東京電機大学, 未来科学部, 教授 (00334152)
井上 中順  東京工業大学, 情報理工学院, 准教授 (10733397)
前田 英作  東京電機大学, システムデザイン工学部, 教授 (90396143)
Project Period (FY) 2019-04-01 – 2022-03-31
KeywordsDeep Learning / Pre-training / Transfer Learning / Fractal Geometry
Outline of Annual Research Achievements

2021年度は、(i) 数式ドリブン教師あり学習(Formula-driven Supervised Learning)のさらなる探究を進めると同時に、(ii) 動画認識のパラメータ初期化にも拡張してその効果を検証した。(i)においてはフラクタル幾何以外にも、画像内に固定パターンを敷き詰める再帰的タイリング(Recursive Tiling)による画像データセット構築を行い、画像データセットのサイズが小さい場合にはフラクタル幾何よりも優れた性能を示すことがあることを確認した。より計算リソースが限られた場合には効果を発揮することが期待される。本業績はICCV 2021 Workshopに採択された。(ii) 動画認識への応用としては、パーリンノイズを用いて単純な動画パターンと同時に、動画に対する教師ラベルを生成することで動画データセットを自動構築した。空間のみならず時間情報も処理可能な時空間3次元畳み込みニューラルネットワークを用いてパラメータを初期化する学習を行うことにより、従来の事前学習を通して動きの特徴表現をよりよく獲得できることが明らかとなった。本業績はWACV 2022に採択された。

さらに、2020年度の国際会議受賞論文について追加で実験を行った結果、分野のトップジャーナルであるInternational Journal of Computer Vision (IJCV)に採択されるに至った。コードや学習済みモデルも更新を行い、本プロジェクトの内容を再現可能な形で公開した。

Research Progress Status

令和3年度が最終年度であるため、記入しない。

Strategy for Future Research Activity

令和3年度が最終年度であるため、記入しない。

  • Research Products

    (5 results)

All 2022 2021 Other

All Journal Article (1 results) (of which Peer Reviewed: 1 results,  Open Access: 1 results) Presentation (2 results) (of which Int'l Joint Research: 2 results) Remarks (2 results)

  • [Journal Article] Pre-Training Without Natural Images2022

    • Author(s)
      Hirokatsu Kataoka, Kazushige Okayasu, Asato Matsumoto, Eisuke Yamagata, Ryosuke Yamada, Nakamasa Inoue, Akio Nakamura, Yutaka Satoh
    • Journal Title

      International Journal of Computer Vision

      Volume: 130 Pages: 990~1007

    • DOI

      10.1007/s11263-021-01555-8

    • Peer Reviewed / Open Access
  • [Presentation] Spatiotemporal Initialization for 3D CNNs with Generated Motion Patterns2022

    • Author(s)
      Hirokatsu Kataoka, Eisuke Yamagata, Kensho Hara, Ryusuke Hayashi, Nakamasa Inoue
    • Organizer
      IEEE Workshop on Applications of Computer Vision (WACV 2022)
    • Int'l Joint Research
  • [Presentation] Formula-driven Supervised Learning with Recursive Tiling Patterns2021

    • Author(s)
      Hirokatsu Kataoka, Asato Matsumoto, Eisuke Yamagata, Ryosuke Yamada, Nakamasa Inoue, Yutaka Satoh
    • Organizer
      IEEE/CVF International Conference on Computer Vision (ICCV) Workshop
    • Int'l Joint Research
  • [Remarks] Spatiotemporal Initialization for 3D CNNs

    • URL

      https://hirokatsukataoka16.github.io/Spatiotemporal-Initialization-for-3DCNNs/

  • [Remarks] Recursive Tiling Patterns

    • URL

      https://hirokatsukataoka16.github.io/Recursive-Tiling-Patterns/

URL: 

Published: 2022-12-28  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi