• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

常識・行動・領域知識に基づき家庭内行動を推論する対話エージェントシステムの開発

研究課題

研究課題/領域番号 23K11221
研究種目

基盤研究(C)

配分区分基金
応募区分一般
審査区分 小区分61030:知能情報学関連
研究機関青山学院大学

研究代表者

森田 武史  青山学院大学, 理工学部, 教授 (50590171)

研究分担者 谷津 元樹  青山学院大学, 理工学部, 助教 (30805015)
研究期間 (年度) 2023-04-01 – 2027-03-31
研究課題ステータス 交付 (2023年度)
配分額 *注記
4,550千円 (直接経費: 3,500千円、間接経費: 1,050千円)
2026年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2025年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2024年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円)
2023年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
キーワードEmbodied AI / 知識グラフ / オントロジー / 大規模言語モデル / 常識推論 / 対話エージェント
研究開始時の研究の概要

ユーザと仮想現実空間とのインタラクションを通じて身体性を持つエージェントが学習し,様々なタスクの解決を目指すEmbodied AIと呼ばれる研究が進められている.従来研究では,ユーザがエージェントに直接的な要求をすることにより,視覚的質問応答やナビゲーションなどのタスクを解決できている.しかし,常識・行動・領域知識に基づいてユーザの発話や仮想現実空間内の行動からユーザの次の行動を推論し,ユーザの潜在的な要求に応えることが可能な対話エージェントは実現できていない.本研究では,家庭シミュレータ上で常識・行動・領域知識に基づき家庭内行動を推論する対話エージェントシステムを開発することを目的とする.

研究実績の概要

本研究は,家庭シミュレータVirtualHome上で常識・行動・領域知識に基づき家庭内行動を推論する対話エージェントシステムを開発するものである.2023年度は,大規模言語モデル(LLM),家庭・行動知識に基づいて,ユーザの曖昧な要求からその要求の実現に必要なVirtualHome内の場所を案内可能なプロトタイプシステムを開発し,知識グラフに基づく先行研究システムとの比較評価を行った.先行研究で構築した評価用データセットを用いて評価した結果,提案システムが先行研究システムをF1値で上回ることを確認した.本評価結果より,LLMを常識知識推論や対話モジュールとして利用できる可能性を示すことができた.本成果は,2024年度人工知能学会全国大会で発表する予定である.
さらに,本研究の基礎研究として,知識グラフ(Wikidata)を対象とした日本語エンティティリンキング(EL)と抽象的なタスク記述からVirtualHome上で実行可能なアクションスクリプト(AS)を自動生成する手法も研究した.
EL研究の多くは英語を対象としており,日本語を対象とするEL研究は少ない.また,Wikidataを対象とした日本語EL評価用データセットは著者の知る限り存在しない.そこで,英語EL評価用データセットを日本語に自動翻訳し,提案する日本語EL手法の評価に用いた.評価実験より,提案手法が既存の多言語ELモデルをF1値で上回ることを確認した.
自然言語文からASを自動生成する研究は行われているが,それらのASの実行率は約40%である.本研究では,LLMに行動と家庭知識を与え,抽象的なタスク記述から詳細な記述を生成し,詳細な記述からASを段階的に生成する手法を提案した.提案手法が生成したASの実行率は100%となり,既存手法と比べて実行率を大幅に向上できた.
これらの成果を知識グラフに関する国際会議で発表した.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

2023年度は,大規模言語モデル(LLM)と家庭知識に基づいて,ユーザの曖昧な要求からその要求の実現に必要なVirtualHome内の場所を案内可能なプロトタイプシステムを開発した.知識グラフで表現された家庭環境知識や常識推論モデルをLLMで代替できるかは不明であったが,LLM研究の進展により,想定していたよりも早く,LLMに基づくプロトタイプシステムを開発することができた.また,提案システムは知識グラフに基づく先行研究システムをF1値で上回ることができた.さらに,本研究の基礎研究として,知識グラフ(Wikidata)を対象とした日本語エンティティリンキング(EL)と抽象的なタスク記述からVirtualHome上で実行可能なアクションスクリプト(AS)を自動生成する手法を研究し,知識グラフに関する国際会議で成果が発表できた.以上より,本研究課題はおおむね順調に進展している.

今後の研究の推進方策

現状のプロトタイプシステムは,先行研究において構築した評価用データセットに基づいて評価をしているが,この評価用データセットは,家庭環境におけるユーザの潜在的な要求の体系的な分析に基づいて構築できていない.また,潜在的な要求の中には,家庭環境や行動知識を参照しなくても,LLMが備える常識知識推論のみで回答できるものも含まれていると考えられる.以上より,今後は,家庭環境におけるユーザの潜在的な要求を体系的に分析し,家庭環境と行動知識を参照しなければ回答できないユーザの潜在的要求を含む評価用データセットを構築し,提案システムの評価を進めたい.
また,LLMの常識推論と質問応答能力についても,十分に分析ができていないため,知識グラフに基づく常識推論や質問応答の先行研究と比較し,LLMの利点や欠点を明らかにしていきたい.
さらに,知識グラフを対象としたエンティティリンキング,抽象的なタスク記述からのアクションスクリプト生成,常識知識や領域知識の補完など,本研究の基礎研究も同時に進める予定である.

報告書

(1件)
  • 2023 実施状況報告書
  • 研究成果

    (10件)

すべて 2024 2023

すべて 学会発表 (10件) (うち国際学会 4件)

  • [学会発表] Prediction of actions and places by the time series recognition from images with Multimodal LLM2024

    • 著者名/発表者名
      Tomohiro Ogawa, Kango Yoshioka, Ken Fukuda, Takeshi Morita
    • 学会等名
      2024 IEEE 18th International Conference on Semantic Computing (ICSC), International Knowledge Graph Reasoning Challenge 2024
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] Prediction of Actions and Objects through Video Analysis Using Stepwise Prompt2024

    • 著者名/発表者名
      Tsukasa Hirano, Kengo Ozaki, Takeshi Morita
    • 学会等名
      2024 IEEE 18th International Conference on Semantic Computing (ICSC), International Knowledge Graph Reasoning Challenge 2024
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] マルチモーダル大規模言語モデルと画像キャプションに基づく描画内容に即した併置型駄洒落の認識2024

    • 著者名/発表者名
      浅野歴,森田武史,江上周作,鵜飼孝典,福田賢一郎
    • 学会等名
      人工知能学会第二種研究会 第62回セマンティックウェブとオントロジー研究会
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] DBpediaオントロジーとGPTに基づくWikipediaの赤リンクを用いたDBpediaの拡張2024

    • 著者名/発表者名
      森俊人,森田武史,鵜飼孝典,江上周作,福田賢一郎
    • 学会等名
      人工知能学会第二種研究会 第62回セマンティックウェブとオントロジー研究会
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] Wikidataを対象とした大規模言語モデルに基づくエンティティリンキング2024

    • 著者名/発表者名
      三辻史哉,澤村勇輝,森田武史
    • 学会等名
      人工知能学会第二種研究会 第62回セマンティックウェブとオントロジー研究会
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] 日常生活行動知識グラフとRAGに基づく家庭内危険行動の理由と根拠提示システム2024

    • 著者名/発表者名
      穴口 史将,森田 武史
    • 学会等名
      人工知能学会第二種研究会 第62回セマンティックウェブとオントロジー研究会
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] シーングラフとGPTに基づく画像に関連する併置型駄洒落生成2024

    • 著者名/発表者名
      後藤颯志,浅野歴,森田武史
    • 学会等名
      人工知能学会第二種研究会 第62回セマンティックウェブとオントロジー研究会
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] Japanese Pointer Network based Entity Linker for Wikidata2023

    • 著者名/発表者名
      Yuki Sawamura, Takeshi Morita, Shusaku Egami, Takanori Ugai, Ken Fukuda
    • 学会等名
      The 12th International Joint Conference on Knowledge Graphs (IJCKG2023)
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] Automatic Action Script Generation to Improve Execution Rate based on LLM in VirtualHome2023

    • 著者名/発表者名
      Jin Aoyama, Takeshi Morita, Takanori Ugai, Shusaku Egami, Ken Fukuda
    • 学会等名
      The 12th International Joint Conference on Knowledge Graphs (IJCKG2023)
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] LLMを活用した抽象的なタスク記述からのVirtualHomeのためのアクションスクリプト自動生成2023

    • 著者名/発表者名
      青山仁,森田武史,鵜飼孝典,江上周作,福田賢一郎
    • 学会等名
      人工知能学会第二種研究会 第61回セマンティックウェブとオントロジー研究会
    • 関連する報告書
      2023 実施状況報告書

URL: 

公開日: 2023-04-13   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi