• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

ロボットの統合認知アーキテクチャによる実世界に根ざした言語的思考の実現

Research Project

Project/Area Number 19J23364
Research Category

Grant-in-Aid for JSPS Fellows

Allocation TypeSingle-year Grants
Section国内
Review Section Basic Section 61050:Intelligent robotics-related
Research InstitutionOsaka University

Principal Investigator

宮澤 和貴  大阪大学, 基礎工学研究科, 特別研究員(DC1)

Project Period (FY) 2019-04-25 – 2022-03-31
Project Status Completed (Fiscal Year 2021)
Budget Amount *help
¥3,100,000 (Direct Cost: ¥3,100,000)
Fiscal Year 2021: ¥1,000,000 (Direct Cost: ¥1,000,000)
Fiscal Year 2020: ¥1,000,000 (Direct Cost: ¥1,000,000)
Fiscal Year 2019: ¥1,100,000 (Direct Cost: ¥1,100,000)
KeywordsTransformer / 発達ロボティクス / 記号創発ロボティクス / マルチモーダル / 世界モデル / 自然言語処理 / 強化学習 / 機械学習
Outline of Research at the Start

深層学習に代表される人工知能技術の発展により,自動運転などの機械による知的活動が可能になりつつある。そのなかで、人間の日常生活を支援するパートナーロボットに対する期待も高まっているが,依然としてそのようなロボットは実現されていない.
このようなロボットには,実世界や言語を理解して思考する機能と、他者とコミュニケーションを行う機能が重要である.
そこで,本研究では経験に基づいて知能を獲得する認知モデルにおいて,高次認知機能および社会的機能を統合することで,ロボットによる実世界に根ざした言語的思考を実現することを目標とする.

Outline of Annual Research Achievements

当該年度は,課題の目標であるロボットの高次認知機能(言語的思考)の実現に向けて,Transformerを利用した深層学習モデルの構築に注力して研究をおこなった.
具体的には,複数の事前学習モデルを利用したTransformer-basedなマルチモーダル学習モデルを提案した.マルチモーダルデータは単モーダルデータと比較するとデータ収集のコストが高く,一般的に大規模にデータを集めることは困難である.そこで,各モダリティの入力に事前学習されたTransformer-basedエンコーダーを利用し,その出力を別のTransformerにより統合するモデルを提案した.提案モデルの有効性を検証するために,音声と言語データとしてCMU-MOSIデータセットを,画像と言語データとしてMM-IMDbデータセットを利用し,2つのマルチモーダルデータセットに対して分類タスクをおこなった.その結果,各データセットにおいて高い分類精度を示した.さらに,学習データ量の減少に対しても頑健性を示した.実際のロボットでは,大規模なデータ収集は難しいため,このように少量のマルチモーダルデータに対しても高い性能を発揮する手法は非常に重要である.この研究成果はIEEE Accessに記載された.
Transformerはロボットのモデルにも利用され多様なモデルが提案されている.そこで,Transformerのロボット利用に関して,タスクやモデルについて調査を行い,Transformerのロボット利用の現状や問題点,今後の方向性をまとめた.調査は,統合的タスク・ナビゲーション・マニピュレーション・センサ統合・言語指示・実ロボット利用の6つの視点から行った.これら6つの要素から構成されるタスクと,タスクを実現するためのモデルをまとめた.この調査結果はサーベイ論文としてジャーナルに投稿予定である.

Research Progress Status

令和3年度が最終年度であるため、記入しない。

Strategy for Future Research Activity

令和3年度が最終年度であるため、記入しない。

Report

(3 results)
  • 2021 Annual Research Report
  • 2020 Annual Research Report
  • 2019 Annual Research Report
  • Research Products

    (11 results)

All 2022 2021 2020 2019 Other

All Journal Article (2 results) (of which Peer Reviewed: 2 results,  Open Access: 2 results) Presentation (8 results) (of which Int'l Joint Research: 3 results) Remarks (1 results)

  • [Journal Article] Simple and Effective Multimodal Learning Based on Pre-Trained Transformer Models2022

    • Author(s)
      Miyazawa Kazuki、Kyuragi Yuta、Nagai Takayuki
    • Journal Title

      IEEE Access

      Volume: 10 Pages: 29821-29833

    • DOI

      10.1109/access.2022.3159346

    • Related Report
      2021 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] Integrated Cognitive Architecture for Robot Learning of Action and Language2019

    • Author(s)
      Miyazawa Kazuki、Horii Takato、Aoki Tatsuya、Nagai Takayuki
    • Journal Title

      Frontiers in Robotics and AI

      Volume: 6

    • DOI

      10.3389/frobt.2019.00131

    • Related Report
      2019 Annual Research Report
    • Peer Reviewed / Open Access
  • [Presentation] GPT-2を用いた人の動作予測2021

    • Author(s)
      宮澤 和貴, 井上 輝也, 長井 隆行
    • Organizer
      第35回人工知能学会全国大会
    • Related Report
      2021 Annual Research Report 2020 Annual Research Report
  • [Presentation] Self-Attentionによる物体概念の形成2020

    • Author(s)
      宮澤 和貴, 青木 達哉, 堀井 隆斗, 長井 隆行
    • Organizer
      第38回日本ロボット学会学術講演会
    • Related Report
      2020 Annual Research Report
  • [Presentation] マルチモーダル世界モデルを用いた実ロボットによる言語的思考の実現2020

    • Author(s)
      宮澤 和貴, 青木 達哉, 堀井 隆斗, 長井 隆行
    • Organizer
      第38回日本ロボット学会学術講演会
    • Related Report
      2020 Annual Research Report
  • [Presentation] Formation of object concepts using self-attention2020

    • Author(s)
      Kazuki Miyazawa, Tatsuya Aoki, Takato Horii, Takayuki Nagai
    • Organizer
      The 3rd International Symposium on Symbiotic Intelligent Systems
    • Related Report
      2020 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Integration of multiple probabilistic generative models for robot learning2020

    • Author(s)
      Kazuki Miyazawa, Takato Horii, Tatsuya Aoki, Takayuki Nagai
    • Organizer
      The 2nd International Symposium on Symbiotic Intelligent System
    • Related Report
      2019 Annual Research Report
    • Int'l Joint Research
  • [Presentation] 統合認知モデルによるロボットの概念・行動・言語の同時学習2019

    • Author(s)
      宮澤 和貴, 青木 達哉, 堀井 隆斗, 長井 隆行
    • Organizer
      第33回人工知能学会全国大会
    • Related Report
      2019 Annual Research Report
  • [Presentation] 統合認知モデルによるロボットの概念・行動・言語の同時学習2019

    • Author(s)
      宮澤 和貴, 青木 達哉, 堀井 隆斗, 長井 隆行
    • Organizer
      第17回ECSRA研究会
    • Related Report
      2019 Annual Research Report
  • [Presentation] Integration of Multiple Generative Modules for Robot Learning2019

    • Author(s)
      Kazuki Miyazawa, Takato Horii, Tatsuya Aoki, Takayuki Nagai
    • Organizer
      IROS 2019 Workshop on Deep Probabilistic Generative Models for Cognitive Architecture in Robotics
    • Related Report
      2019 Annual Research Report
    • Int'l Joint Research
  • [Remarks] 長井研究室ホームページ

    • URL

      http://www.rlg.sys.es.osaka-u.ac.jp/

    • Related Report
      2019 Annual Research Report

URL: 

Published: 2019-05-29   Modified: 2024-03-26  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi