• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2023 Fiscal Year Annual Research Report

Knowledge inference system for robot integrating commonsense in natural language with real-world observation

Research Project

Project/Area Number 22H03654
Allocation TypeSingle-year Grants
Research InstitutionInstitute of Physical and Chemical Research

Principal Investigator

吉野 幸一郎  国立研究開発法人理化学研究所, 情報統合本部, チームリーダー (70760148)

Co-Investigator(Kenkyū-buntansha) 須藤 克仁  奈良先端科学技術大学院大学, 先端科学技術研究科, 准教授 (00396152)
横井 祥  東北大学, 情報科学研究科, 助教 (60888949)
中村 泰  国立研究開発法人理化学研究所, 情報統合本部, チームリーダー (70403334)
Project Period (FY) 2022-04-01 – 2026-03-31
Keywords知識推論 / 対話ロボット / 対話システム / 埋込表現 / 分散表現
Outline of Annual Research Achievements

人間の生活空間という実世界で補助タスクを行うロボットに対し、テキストで記述された知識を用いた知識推論を導入することで、様々な常識推論を可能にする知能ロボットシステムの構築を行う。この中で、実世界でロボットが観測した事物に応じて、知識推論基盤を柔軟に更新し、ロボット自身が経験から知識推論を新しくすることができる枠組みについて研究する。ここで用いる知識推論基盤、埋め込み表現と知識推論機構において、実世界における時間的・空間的なコンテキストを取り込み、テキストに記述された内容だけでなく、実世界のコンテキストを幅広く用いることができる知識推論基盤の構築を目指す。
本年度においては、実世界でのコンテキストを反映した知識推論モデルの構築や、このための埋め込み表現の研究を行った。まず、実世界の観測から得られたコンテキストによって知識推論を行う枠組みを構築し利用した。これをロボットに対して適用し、実空間のコンテキストに応じて実空間の事物やその関係について利活用した。構築された埋め込み・知識推論モデルに基づいて、ロボットが実世界から得られた観測に基づいて推論を行い、行動を決定するようなモデルを構築した。具体的には、これまでに本プロジェクトで構築した気が利くロボットのデータセットを用い、周囲の環境情報や知識推論の結果などによってロボットが行うべき行動を決定するモデルの構築を行った。この成果は国際誌の査読付き論文誌に掲載された。

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

今年度はこれまでに定義してきた「気の利くロボット」に関するデータを用いて、気が利くロボットの行動を推論して導く知識推論モデルの構築および評価を行った。また、データセットの拡張も行った。ロボットの動作に関わるモデルとしては近年大規模言語モデルや事前学習モデルの利活用が注目されており、本課題においてもこうしたモデルの利活用を行った。その結果、ロボットが持つ周辺環境に関して様々な情報を明示的に推論へと導くことで、気の利くロボットの行動決定モデルの精度が大幅に強化されることがわかった。本内容は国際論文誌に投稿し掲載された。また、ロボットが行う演繹的な推論過程についての研究も行い、知識推論を用いた演繹的推論の利活用が、ナイーブな言語モデルや事前学習モデルの利活用よりも有効であり、またロボットの思考過程をユーザに提示する上でも有効であることが示された。これらのロボットシステムで用いる分散表現などに関わる基盤としては、分散表現にいくつかの観点を持ち込んで学習を行うモデルの有効性を示すことができ、これを査読付き国際会議で発表した。また、言語とロボットの融合という観点で言語処理学会2024年年次大会において「大規模言語モデルの実世界応用」ワークショップを主催し、非常に多くの参加者と有意義な議論を行うことができた。

Strategy for Future Research Activity

今年度は「気の利くロボット」の実現にあたり、実際に知識推論基盤を利活用するなど大きな進展があった。また一方で、世間としては大規模言語モデルの利活用が非常な注目を浴びるようになっており、そうした枠組みとの有機的な融合が期待される状況になりつつある。ロボット用の基盤モデルについて考えた場合、ロボットの一人称視点から得られる様々なセンサーデータと、ロボットのモーションから得られる軌跡などのデータを言語と結び付ける必要がある。こうした観点について、モデル学習とモデルにおける推論双方を踏まえた研究議論を展開し、今後の言語×ロボティクスの研究の方向性を明らかにしたいと考えている。また、実際にそうした方向からロボットの基盤モデルとなりうる目的関数や表現形式についての議論を行い、いくつか有望なものを実装するフェーズに移りたい。

  • Research Products

    (14 results)

All 2024 2023 Other

All Int'l Joint Research (2 results) Journal Article (3 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 3 results,  Open Access: 3 results) Presentation (8 results) (of which Int'l Joint Research: 3 results,  Invited: 1 results) Funded Workshop (1 results)

  • [Int'l Joint Research] 国立台湾大学(その他の国・地域)

    • Country Name
      その他の国・地域
    • Counterpart Institution
      国立台湾大学
  • [Int'l Joint Research] University of Trento(イタリア)

    • Country Name
      ITALY
    • Counterpart Institution
      University of Trento
  • [Journal Article] Do as I Demand, Not as I Say: A Dataset for Developing a Reflective Life-Support Robot2024

    • Author(s)
      Tanaka Shohei、Yamasaki Konosuke、Yuguchi Akishige、Kawano Seiya、Nakamura Satoshi、Yoshino Koichiro
    • Journal Title

      IEEE Access

      Volume: 12 Pages: 11774~11784

    • DOI

      10.1109/ACCESS.2024.3350174

    • Peer Reviewed / Open Access
  • [Journal Article] ASMR: Augmenting Life Scenario using Large Generative Models for Robotic Action Reflection2024

    • Author(s)
      7.Shang-Chi Tsai, Seiya Kawano, Angel Garcia Contreras, Koichiro Yoshino, Yun-Nung Chen
    • Journal Title

      In Proceedings of International Workshop on Spoken Dialogue Systems Technology (IWSDS) 2024

      Volume: 1 Pages: 1~14

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Operative Action Captioning for Estimating System Actions2023

    • Author(s)
      Nakamura Taiki、Kawano Seiya、Yuguchi Akishige、Kawanishi Yasutomo、Yoshino Koichiro
    • Journal Title

      In Proceedings of 2023 IEEE International Conference on Robotics and Automation (ICRA)

      Volume: 1 Pages: 1~6

    • DOI

      10.1109/ICRA48891.2023.10161545

    • Peer Reviewed / Open Access
  • [Presentation] “ASMR: Augmenting Life Scenario using Large Generative Models for Robotic Action Reflection,”2024

    • Author(s)
      Shang-Chi Tsai, Seiya Kawano, Angel Garcia Contreras, Koichiro Yoshino, Yun-Nung Chen.
    • Organizer
      International Workshop on Spoken Dialogue Systems Technology (IWSDS) 2024
    • Int'l Joint Research
  • [Presentation] Improving the Image Discrimination Ability for CLIP-Model via Semantic Graphs through Graph2024

    • Author(s)
      Sangmyeong Lee, Seitaro Shinagawa, Koichiro Yoshino, Satoshi Nakamura
    • Organizer
      言語処理学会第30回年次大会,
  • [Presentation] 行動知識系列を用いた気が利く行動選択の検討2024

    • Author(s)
      山崎 康之介, 田中 翔平, 河野 誠也, 湯口 彰重, 吉野 幸一郎
    • Organizer
      第259回情報処理学会自然言語処理研究会
  • [Presentation] “Operative Action Captioning for Estimating System Actions.”2023

    • Author(s)
      Taiki Nakamura, Seiya Kawano, Akishige Yuguchi, Yasutomo Kawanishi and Koichiro Yoshino.
    • Organizer
      2023 IEEE International Conference on Robotics and Automation (ICRA2023)
    • Int'l Joint Research
  • [Presentation] 生活空間を周回し自発的にユーザ補助を行う自律型対話ロボット2023

    • Author(s)
      Ahmad Huthaifa, Garcia Angel Contreras, 河野 誠也, Liu Chaoran, 湯口 彰重, 薗頭 元春, 川西 康友, 石井 カルロス寿憲, 港 隆史, 中村 泰, 〇吉野 幸一郎, Russka Heikki, 斉藤 康己, 美濃 導彦
    • Organizer
      第41回 日本ロボット学会学術講演会
  • [Presentation] 家庭内ロボットの気の利いた行動の実現に向けて2023

    • Author(s)
      山崎 康之介, 田中 翔平, 河野 誠也, 湯口 彰重, 吉野 幸一郎
    • Organizer
      NLP若手の会シンポジウム
  • [Presentation] その研究ChatGPTでいいんじゃないですか?~LLM時代の対話システム研究~2023

    • Author(s)
      吉野 幸一郎
    • Organizer
      NLP若手の会シンポジウム
    • Invited
  • [Presentation] Reflective Robot Action Selection for An Ambiguous Utterance Using Explicit Commonsense Reasoning2023

    • Author(s)
      Konosuke Yamasaki, Shohei Tanaka, Seiya Kawano, Akishige Yuguchi, Koichiro Yoshino
    • Organizer
      Seventh International Workshop on Symbolic-Neural Learning (SNL2023)
    • Int'l Joint Research
  • [Funded Workshop] The 14th International Workshop on Spoken Dialogue Systems Technology2024

URL: 

Published: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi