ディープラーニングと記号処理の融合による予測性の向上に関する研究

• 研究領域: 人工知能と脳科学の対照と融合
• 研究課題/領域番号: 16H06562
• 研究種目: 新学術領域研究(研究領域提案型)
• 配分区分: 補助金
• 審査区分: 複合領域
• 研究機関: 東京大学
• 研究代表者: 松尾 豊 東京大学, 大学院工学系研究科(工学部), 教授 (30358014)
• 研究分担者: PRENDINGER HELMU 国立情報学研究所, コンテンツ科学研究系, 教授 (40390596) ; 中山 浩太郎 東京大学, 大学院工学系研究科(工学部), 学術支援専門職員 (00512097)
• 研究期間 (年度): 2016-06-30 – 2021-03-31
• 研究課題ステータス: 完了 (2020年度)
• 配分額: 76,180千円 (直接経費: 58,600千円、間接経費: 17,580千円); 2020年度: 14,560千円 (直接経費: 11,200千円、間接経費: 3,360千円); 2019年度: 14,560千円 (直接経費: 11,200千円、間接経費: 3,360千円); 2018年度: 14,560千円 (直接経費: 11,200千円、間接経費: 3,360千円); 2017年度: 14,560千円 (直接経費: 11,200千円、間接経費: 3,360千円); 2016年度: 17,940千円 (直接経費: 13,800千円、間接経費: 4,140千円)
• キーワード: 深層学習 / 深層生成モデル / 世界モデル / プランニング / 人工知能 / ウェブマイニング / ディープラーニング / Deep Learning / ウエブマイニング / 人口知能 / 機械学習

研究成果の概要

深層学習と記号処理の融合に関して、深層強化学習の手法を構築すると共に環境や相互作用のモデルを獲得する世界モデルの研究を行った。研究の前半では、アイディアが先に論文化されることが相次ぎ深層学習領域のスピードの速さに苦しんだが、中間審査の指摘を踏まえ、後半では研究テーマを修正し、ICLRやICMLなどのトップ国際会議での多くの論文成果につなげることができた。具体的には、マルチモーダルな深層生成モデル、あるいは世界モデルを活用するためのデプロイ効率的な強化学習の手法などである。また、最終年度には大脳皮質の自己教師あり学習の新しいモデルを提案する等、脳科学と人工知能の融合の面でも大きな進展があった。

研究成果の学術的意義や社会的意義

世界モデルの研究は、現在の深層学習を記号処理と融合する際に基盤となるものである。そのための手法を多面的に研究し、例えば、マルチモーダルな深層生成モデルでは、複数のモーダルが与えられたときに、一部のモーダルで欠損があったときにどのように復元するかという問題を扱った。深層強化学習の分野では、モデルに基づく手法とモデルフリーな手法があるが、この両者の良いとこ取りをするデプロイ効率な手法を提案した。世界モデルの技術は、意味理解を可能とする人工知能につながり、また人工知能と脳科学の融合の土台となる可能性が高く、学術的な意義は大きい。また、今後ロボット等への活用につながれば社会的な意義も大きい。

研究成果

• [雑誌論文] 深層ニューラルネットワークの中間層出力を利用した半教師あり分布外検知 (2021)
  • 著者名/発表者名: 岡本弘野, 鈴木雅大, 松尾豊
  • 雑誌名: 情報処理学会論文誌 巻: 62 号: 4 ページ: 1142-1151
  • DOI: 10.20729/00210565
  • NAID: 170000184843
  • 年月日: 2021-04-15
  • 査読あり
• [雑誌論文] Modeling Task Uncertainty for Safe Meta-imitation Learning (2020)
  • 著者名/発表者名: Tatsuya Matsushima, Naruya Kondo, Yusuke Iwasawa, Kaoru Nasuno, Yutaka Matsuo
  • 雑誌名: Frontiers in Robotics and AI 巻: 7 ページ: 189-189
  • DOI: 10.3389/frobt.2020.606361
  • 査読あり
• [雑誌論文] 服の領域を考慮した写真上の人物の自動着せ替えに関する研究 (2019)
  • 著者名/発表者名: 久保静真, 岩澤有祐, 鈴木雅大, 松尾豊
  • 雑誌名: 情報処理学会論文誌 巻: 60 ページ: 870-879
  • NAID: 130007425034
  • 査読あり / オープンアクセス
• [雑誌論文] 異なるモダリティ間の双方向生成のための深層生成モデル (2018)
  • 著者名/発表者名: 鈴木雅大
  • 雑誌名: 情報処理学会論文誌 巻: Vol. 59, No. 3 ページ: 859-873
• [雑誌論文] GeSdA - GPU上でのAutoencoder処理並列化による高速Deep Learningの実装 (2016)
  • 著者名/発表者名: 中山 浩太郎、松尾 豊
  • 雑誌名: 情報処理学会論文誌 巻: 9 ページ: 46-54
  • NAID: 170000148037
• [学会発表] Policy Information Capacity: Information-Theoretic Measure for Task Complexity in Deep Reinforcement Learning (2021)
  • 著者名/発表者名: Hiroki Furuta, Tatsuya Matsushima, Tadashi Kozuno, Yutaka Matsuo, Sergey Levine, Ofir Nachum, and Shixiang Shane Gu
  • 学会等名: International Conference on Machine Learning 2021 (ICML2021)
  • 国際学会
• [学会発表] Estimating Disentangled Belief about Hidden State and Hidden Task for Meta-Reinforcement Learning (2021)
  • 著者名/発表者名: Kei Akuzawa, Yusuke Iwasawa, Yutaka Matsuo
  • 学会等名: Learning for Dynamics and Control (L4DC)
  • 国際学会
• [学会発表] Deployment-Efficient Reinforcement Learning via Model-Based Offline Optimization (2021)
  • 著者名/発表者名: Tatsuya Matsushima, Hiroki Furuta, Yutaka Matsuo, Ofir Nachum, and Shixiang Shane Gu
  • 学会等名: International Conference on Learning Representations 2021 (ICLR2021)
  • 国際学会
• [学会発表] Group Equivariant Conditional Neural Processes (2021)
  • 著者名/発表者名: Makoto Kawano, Wataru Kumagai, Akiyoshi Sannai, Yusuke Iwasawa, and Yutaka Matsu
  • 学会等名: International Conference on Learning Representations 2021 (ICLR2021)
  • 国際学会
• [学会発表] Model Based Reinforcement Learning for Atari (2020)
  • 著者名/発表者名: L. Kaiser, et al.
  • 学会等名: ICLR 2020
  • 国際学会
• [学会発表] メタ学習としてのGenerative Query Network (2018)
  • 著者名/発表者名: 谷口尚平, 岩澤有祐, 松尾豊
  • 学会等名: 人工知能学会全国大会
• [学会発表] Extending Robust Adversarial Reinforcement Learning Considering Adaptation and Diversity (2018)
  • 著者名/発表者名: Hiroaki Shioya
  • 学会等名: International Conference of Learning Representation
• [学会発表] Expert-based reward function training: the novel method to train sequence generators (2018)
  • 著者名/発表者名: Joji Toyama
  • 学会等名: International Conference of Learning Representation
• [学会発表] Neuron as an Agent (2018)
  • 著者名/発表者名: Shohei Ohsawa
  • 学会等名: International Conference of Learning Representation
• [学会発表] 内的報酬と敵対的学習によるタスク非依存な注意機構の学習 (2018)
  • 著者名/発表者名: 松嶋達也
  • 学会等名: 人工知能学会全国大会
• [学会発表] ディープラーニングと進化 (2017)
  • 著者名/発表者名: 松尾 豊
  • 学会等名: 人工知能学会全国大会
  • 発表場所: 愛知県名古屋市（ウィンクあいち）
  • 年月日: 2017-05-23
• [学会発表] 画像とテキストの潜在的な意味情報を用いたニューラル翻訳モデルの提案 (2017)
  • 著者名/発表者名: 冨山 翔司，味曽野 雅史，鈴木 雅大，中山 浩太郎，松尾 豊
  • 学会等名: 人工知能学会全国大会
  • 発表場所: 愛知県名古屋市（ウィンクあいち）
  • 年月日: 2017-05-23
• [学会発表] 深層強化学習におけるオフライン事前学習法 (2017)
  • 著者名/発表者名: 那須野 薫，松尾 豊
  • 学会等名: 人工知能学会全国大会
  • 発表場所: 愛知県名古屋市（ウィンクあいち）
  • 年月日: 2017-05-23
• [学会発表] 画像とテキストの潜在的な意味情報を用いたニューラル翻訳モデルの提案 (2017)
  • 著者名/発表者名: 冨山 翔司
  • 学会等名: 人工知能学会全国大会