• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

モダリティごとの不確実性を考慮した共有表現学習の研究

研究課題

研究課題/領域番号 19K21527
補助金の研究課題番号 18H06458 (2018)
研究種目

研究活動スタート支援

配分区分基金 (2019)
補助金 (2018)
審査区分 1001:情報科学、情報工学およびその関連分野
研究機関東京大学

研究代表者

鈴木 雅大  東京大学, 大学院工学系研究科(工学部), 特任研究員 (30823885)

研究期間 (年度) 2018-08-24 – 2020-03-31
研究課題ステータス 完了 (2019年度)
配分額 *注記
2,990千円 (直接経費: 2,300千円、間接経費: 690千円)
2019年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
2018年度: 1,560千円 (直接経費: 1,200千円、間接経費: 360千円)
キーワード深層学習 / 共有表現学習 / マルチモーダル学習 / 深層生成モデル
研究開始時の研究の概要

深層学習の飛躍的発展によって、画像や音声、文書といった異なる種類の情報(モダリティ)を統合して学習するマルチモーダル学習の研究が数多く行われるようになっている。マルチモーダル学習は、異なるモダリティを統合した共有表現の学習が重要となる。しかし異なるモダリティ間で1対1の決定論的な対応関係を結べないような場合(例えば1つのタグに対応する画像は無数にある)、従来の決定論的な学習方法では適切な共有表現を獲得できない。本研究では、申請者らが開発した深層生成モデルによる手法に基づき、各モダリティの不確実性を考慮することで、複数のモダリティ情報を統合した共有表現を適切に学習する手法を確立する。

研究成果の概要

本研究課題では,画像や文書,音声などの複数の異なる種類の情報(マルチモーダル情報)を統合する方法について取り組む.従来の研究では,モダリティごとの不確実性の違いを考慮しておらず,決定論的に統合していた.本研究では,深層生成モデルと呼ばれる枠組みに基づき,異なるモダリティを確率的に統合することを提案し,複数のマルチモーダル学習の問題設定において,このアプローチが有効であることを示した.また,マルチモーダル情報の関係を含んだ複雑な深層生成モデルを簡潔に実装するため,新たにライブラリを開発した.
これらの成果は国内論文誌や国際会議などで発表した.

研究成果の学術的意義や社会的意義

本研究で提案する異なるモダリティの統合の枠組みは,今回扱ったデータや問題設定によらず,様々な領域に応用できると考えている.それは,この統合方法では深層生成モデルを用いてるため,モダリティの不確実性の違いのみに着目しており,モダリティの入力空間の次元数には依存しないからである.また,今回開発した深層生成モデルライブラリは,マルチモーダル学習のモデルに限らず,様々な深層生成モデルの実装に利用することができる.

報告書

(3件)
  • 2019 実績報告書   研究成果報告書 ( PDF )
  • 2018 実績報告書
  • 研究成果

    (11件)

すべて 2020 2019 2018

すべて 雑誌論文 (3件) (うち国際共著 1件、 査読あり 3件、 オープンアクセス 1件) 学会発表 (8件) (うち国際学会 4件、 招待講演 1件)

  • [雑誌論文] Neuro-SERKET: Development of Integrative Cognitive System through the Composition of Deep Probabilistic Generative Models2020

    • 著者名/発表者名
      Tadahiro Taniguchi, Tomoaki Nakamura, Masahiro Suzuki, Ryo Kuniyasu, Kaede Hayashi, Akira Taniguchi, Takato Horii, Takayuki Nagai
    • 雑誌名

      New Generation Computing

      巻: 38 号: 1 ページ: 23-48

    • DOI

      10.1007/s00354-019-00084-w

    • 関連する報告書
      2019 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] 服の領域を考慮した写真上の人物の自動着せ替えに関する研究2019

    • 著者名/発表者名
      久保静真,岩澤有祐,鈴木雅大,松尾豊
    • 雑誌名

      情報処理学会論文誌

      巻: 60 ページ: 870-879

    • NAID

      170000150210

    • 関連する報告書
      2018 実績報告書
    • 査読あり
  • [雑誌論文] 深層生成モデルを用いた半教師ありマルチモーダル学習2018

    • 著者名/発表者名
      鈴木雅大,松尾豊
    • 雑誌名

      情報処理学会論文誌

      巻: 59 ページ: 2261-2278

    • NAID

      170000149944

    • 関連する報告書
      2018 実績報告書
    • 査読あり
  • [学会発表] Pixyz: a framework for developing complex deep generative models2019

    • 著者名/発表者名
      Masahiro Suzuki
    • 学会等名
      Workshop on Deep Probabilistic Generative Models for Cognitive Architecture in Robotics (IROS2019)
    • 関連する報告書
      2019 実績報告書
    • 国際学会 / 招待講演
  • [学会発表] 深層生成モデルと世界モデル2019

    • 著者名/発表者名
      鈴木雅大
    • 学会等名
      第4回統計・機械学習若手シンポジウム
    • 関連する報告書
      2019 実績報告書
  • [学会発表] UVTON: UV Mapping to Consider the 3D Structure of a Human in Image-Based Virtual Try-On Network2019

    • 著者名/発表者名
      Shizuma Kubo, Yusuke Iwasawa, Masahiro Suzuki, Yutaka Matsuo
    • 学会等名
      Workshop on Computer Vision for Fashion, Art and Design, The IEEE International Conference on Computer Vision (ICCV 2019)
    • 関連する報告書
      2019 実績報告書
    • 国際学会
  • [学会発表] Dual Space Learning with Variational Autoencoders2019

    • 著者名/発表者名
      Hirono Okamoto, Masahiro Suzuki, Itto Higuchi, Shohei Ohsawa, Yutaka Matsuo
    • 学会等名
      Workshop on Deep Generative Models for Highly Structured Data, International Conference on Learning Representation
    • 関連する報告書
      2019 実績報告書
    • 国際学会
  • [学会発表] Dual Space Learning with Variational Autoencoders2019

    • 著者名/発表者名
      Hirono Okamoto, Masahiro Suzuki, Itto Higuchi, Shohei Ohsawa, Yutaka Matsuo
    • 学会等名
      ICLR workshop
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] Pixyz:複雑な深層生成モデル開発のためのフレームワーク2019

    • 著者名/発表者名
      鈴木 雅大, 金子 貴輝, 谷口 尚平, 松嶋 達也, 松尾 豊
    • 学会等名
      2019年度人工知能学会全国大会
    • 関連する報告書
      2018 実績報告書
  • [学会発表] 身体の3次元構造を考慮したニューラル仮想試着2019

    • 著者名/発表者名
      久保 静真, 岩澤 有祐, 鈴木 雅大, 松尾 豊
    • 学会等名
      2019年度人工知能学会全国大会
    • 関連する報告書
      2018 実績報告書
  • [学会発表] 半教師ありマルチモーダル深層生成モデルにおける共有表現の有効性と単一モダリティ入力への拡張2018

    • 著者名/発表者名
      鈴木雅大,松尾豊
    • 学会等名
      2018年度人工知能学会全国大会
    • 関連する報告書
      2018 実績報告書

URL: 

公開日: 2018-08-27   更新日: 2024-03-26  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi