• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

自然の形成原理に則した深層学習の真相究明

研究課題

研究課題/領域番号 19H01134
研究種目

基盤研究(A)

配分区分補助金
応募区分一般
審査区分 中区分61:人間情報学およびその関連分野
研究機関国立研究開発法人産業技術総合研究所

研究代表者

片岡 裕雄  国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 主任研究員 (70784883)

研究分担者 中村 明生  東京電機大学, 未来科学部, 教授 (00334152)
井上 中順  東京工業大学, 情報理工学院, 准教授 (10733397)
前田 英作  東京電機大学, システムデザイン工学部, 教授 (90396143)
研究期間 (年度) 2019-04-01 – 2022-03-31
研究課題ステータス 完了 (2021年度)
配分額 *注記
37,310千円 (直接経費: 28,700千円、間接経費: 8,610千円)
2021年度: 10,140千円 (直接経費: 7,800千円、間接経費: 2,340千円)
2020年度: 10,140千円 (直接経費: 7,800千円、間接経費: 2,340千円)
2019年度: 17,030千円 (直接経費: 13,100千円、間接経費: 3,930千円)
キーワードDeep Learning / Pre-training / Transfer Learning / Fractal Geometry / 画像認識 / 大規模画像データベース / 深層学習 / フラクタル幾何 / パーリンノイズ / 画像データベース / 画像カテゴリ / 機械学習
研究開始時の研究の概要

2010年代になり画像認識の精度が飛躍的に向上したことで「自然画像とは何だろうか?」そして「その画像カテゴリとは?」という問いがより重要になっている。本研究課題では自然の形成原理に即し能動的に生成した画像パターンとその画像カテゴリを教師ラベルとした機械学習方法を網羅的に探索することで両者の問いに迫る。さらに、従来の画像認識で問題とされていた人手による膨大な画像ダウンロードや画像カテゴリ付与が不要であるだけでなく、個人情報保護法や著作権法などに依らず大規模画像データベースを構築可能である。

研究成果の概要

自然法則を参考にした数式から画像パターンや教師ラベルを自動生成し画像データセットを構築可能な枠組み「数式ドリブン教師あり学習」を提案した。理論的には事前学習フェーズにおいて実画像の代替となる教師ラベル付きの大規模画像データセットを無限に生成することができる。同枠組みは実画像に対して自動で教師ラベルを付与する自己教師あり学習と類似の枠組みであるが、実画像すらも用いないという点でより困難なタスクに挑戦している。現時点では全ての設定において実画像と人間による教師ラベル付の画像データセットの学習には及んでいないが、一部の設定では提案のFractalDBによる学習による精度が超えている設定も確認できた。

研究成果の学術的意義や社会的意義

学術的意義:数式で生成した画像データセットで従来のベースラインと同等まで到達できることを明らかにした。さらに、画像データセットを数式で定義することで、画像認識の原理解析をより容易にした。画像パターンの複雑性が担保され、画像カテゴリは一貫性がある形で割り振られることが重要であった。
社会的意義:従来の画像データセットで問題視されていた、プライバシ侵害・差別的出力・人間のラベル付コストの問題がなくなったため、数式等に権利が含まれていない限りは商用利用が可能なモデルとして提供可能であり、今後AIの社会実装が容易になる。さらに、論文の実験結果が再現できる形でコードや学習済みモデル等を公開するに至った。

報告書

(5件)
  • 2021 実績報告書   研究成果報告書 ( PDF )
  • 2020 実績報告書
  • 2019 審査結果の所見   実績報告書
  • 研究成果

    (10件)

すべて 2022 2021 2020 2019 その他

すべて 雑誌論文 (1件) (うち査読あり 1件、 オープンアクセス 1件) 学会発表 (5件) (うち国際学会 4件) 備考 (4件)

  • [雑誌論文] Pre-Training Without Natural Images2022

    • 著者名/発表者名
      Hirokatsu Kataoka, Kazushige Okayasu, Asato Matsumoto, Eisuke Yamagata, Ryosuke Yamada, Nakamasa Inoue, Akio Nakamura, Yutaka Satoh
    • 雑誌名

      International Journal of Computer Vision

      巻: 130 号: 4 ページ: 990-1007

    • DOI

      10.1007/s11263-021-01555-8

    • 関連する報告書
      2021 実績報告書
    • 査読あり / オープンアクセス
  • [学会発表] Spatiotemporal Initialization for 3D CNNs with Generated Motion Patterns2022

    • 著者名/発表者名
      Hirokatsu Kataoka, Eisuke Yamagata, Kensho Hara, Ryusuke Hayashi, Nakamasa Inoue
    • 学会等名
      IEEE Workshop on Applications of Computer Vision (WACV 2022)
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] Formula-driven Supervised Learning with Recursive Tiling Patterns2021

    • 著者名/発表者名
      Hirokatsu Kataoka, Asato Matsumoto, Eisuke Yamagata, Ryosuke Yamada, Nakamasa Inoue, Yutaka Satoh
    • 学会等名
      IEEE/CVF International Conference on Computer Vision (ICCV) Workshop
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] Initialization Using Perlin Noise for Training Networks with a Limited Amount of Data2021

    • 著者名/発表者名
      Nakamasa Inoue, Eisuke Yamagata, Hirokatsu Kataoka
    • 学会等名
      International Conference on Pattern Recognition (ICPR)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] Pre-training without Natural Images2020

    • 著者名/発表者名
      Hirokatsu Kataoka, Kazushige Okayasu, Asato Matsumoto, Eisuke Yamagata, Ryosuke Yamada, Nakamasa Inoue, Akio Nakamura, Yutaka Satoh
    • 学会等名
      Asian Conference on Computer Vision (ACCV)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] フラクタル幾何学を用いたデータセットの拡張および特性評価2019

    • 著者名/発表者名
      SHAO GUANGXIN、片岡 裕雄、佐藤 雄隆
    • 学会等名
      画像センシングシンポジウム(SSII2019)
    • 関連する報告書
      2019 実績報告書
  • [備考] Spatiotemporal Initialization for 3D CNNs

    • URL

      https://hirokatsukataoka16.github.io/Spatiotemporal-Initialization-for-3DCNNs/

    • 関連する報告書
      2021 実績報告書
  • [備考] Recursive Tiling Patterns

    • URL

      https://hirokatsukataoka16.github.io/Recursive-Tiling-Patterns/

    • 関連する報告書
      2021 実績報告書
  • [備考] Pre-training without Natural Images

    • URL

      https://hirokatsukataoka16.github.io/Pretraining-without-Natural-Images/

    • 関連する報告書
      2020 実績報告書
  • [備考] FractalDB-Pretrained-ResNet-PyTorch

    • URL

      https://github.com/hirokatsukataoka16/FractalDB-Pretrained-ResNet-PyTorch

    • 関連する報告書
      2020 実績報告書

URL: 

公開日: 2019-04-18   更新日: 2023-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi