解釈可能なAIシステムの実現に向けたナレッジグラフに基づく推論・推定技術の体系化

• Project/Area Number: 19H04168
• Research Category: Grant-in-Aid for Scientific Research (B)
• Allocation Type: Single-year Grants
• Section: 一般
• Review Section: Basic Section 61030:Intelligent informatics-related
• Research Institution: National Agriculture and Food Research Organization
• Principal Investigator: 川村 隆浩 国立研究開発法人農業・食品産業技術総合研究機構, 農業情報研究センター, 副センター長 (10426653)
• Co-Investigator(Kenkyū-buntansha): 古崎 晃司 大阪電気通信大学, 情報通信工学部, 教授 (00362624) ; 江上 周作 国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 研究員 (20846000)
• Project Period (FY): 2019-04-01 – 2024-03-31
• Project Status: Completed (Fiscal Year 2023)
• Budget Amount: ¥17,030,000 (Direct Cost: ¥13,100,000、Indirect Cost: ¥3,930,000); Fiscal Year 2023: ¥2,210,000 (Direct Cost: ¥1,700,000、Indirect Cost: ¥510,000); Fiscal Year 2022: ¥2,600,000 (Direct Cost: ¥2,000,000、Indirect Cost: ¥600,000); Fiscal Year 2021: ¥3,900,000 (Direct Cost: ¥3,000,000、Indirect Cost: ¥900,000); Fiscal Year 2020: ¥3,640,000 (Direct Cost: ¥2,800,000、Indirect Cost: ¥840,000); Fiscal Year 2019: ¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000)
• Keywords: ナレッジグラフ / 機械学習 / 論理推論 / 解釈可能性 / 説明可能性 / オントロジー / セマンティックWeb / 人工知能 / 推論

Outline of Research at the Start

将来，AI応用システムは社会に広く普及すると期待されている．しかし，安全安心に社会の中でAIを活用するためには，システムが正しく動作しているかを確認しなければならない．
本研究では，システムが判断に至った理由を説明できるAI技術の開発を目指す．特に，帰納的な機械学習と演繹的な知識活用を融合したAI技術の開発に向け，(1)共通の評価セットとして，現実の社会問題や人間関係など複雑で構造的な関係性を含んだナレッジグラフを構築し，(2)オープンサイエンスの一手法としてナレッジグラフ群を公開し，幅広くAI技術者から推論・推定に関する手法を結集し，適切な指標を設計した上で，客観的な評価，分類，体系化を行う．

Outline of Annual Research Achievements

本課題では、解釈可能なAIシステムの実現を目指して推理小説をナレッジグラフ化したデータセットを公開し、理由付きで犯人を推理することをタスクとして、オープンサイエンス形式による論理推論や機械学習技術の深耕・体系化を実施している。
最終年度となるR5年度は、5年間の活動の集大成として12月に東京にて12th International Joint Conference on Knowledge Graphs (IJCKG 2023)を5年ぶりに国内開催（ハイブリッド）し、約100名の参加者によって活発な議論が行われた。同時に、特に解釈可能なAIにフォーカスした国際ワークショップ2nd International Workshop on Knowledge Graph Reasoning for Explainable Artificial Intelligenceも併催した。チャレンジ（技術コンテスト）としては、昨今の生成AIの普及によるAI分野のパラダイムシフトを踏まえ、テーマを生成AIを用いたナレッジグラフの構築に変更し、3月に国内版を実施した。生成AIのハルシネーション問題へのアプローチとしてナレッジグラフを用いるアイデアなどさまざまな技術が提案された。また、2023年度人工知能学会全国大会にて論文発表を実施、2024年度人工知能学会では企画セッションを実施する予定である。
さらに、推理小説を離れて本技術の社会実装を進めるべく、高齢者の危険行動予知をタスクとした実社会版ナレッジグラフ推論チャレンジも第2回を国際会議18th IEEE International Conference on Semantic Computing (ICSC2025)と併催で2月に開催した。本研究課題は終了するが、上記活動の中で研究開発を継続していく予定である。

Research Progress Status

令和5年度が最終年度であるため、記入しない。

Strategy for Future Research Activity

令和5年度が最終年度であるため、記入しない。

Research Products

• [Journal Article] Contextualized Scene Knowledge Graphs for XAI Benchmarking (2022)
  • Author(s): Kawamura Takahiro、Egami Shusaku、Matsushita Kyoumoto、Ugai Takanori、Fukuda Ken、Kozaki Kouji
  • Journal Title: IJCKG '22: Proceedings of the 11th International Joint Conference on Knowledge Graphs Volume: 00 Pages: 64-72
  • DOI: 10.1145/3579051.3579061
  • Peer Reviewed
• [Journal Article] Report on the First Knowledge Graph Reasoning Challenge 2018: Toward the eXplainable AI System (2020)
  • Author(s): Kawamura Takahiro、Egami Shusaku、Tamura Koutarou、Hokazono Yasunori、Ugai Takanori、Koyanagi Yusuke、Nishino Fumihito、Okajima Seiji、Murakami Katsuhiko、Takamatsu Kunihiko、Sugiura Aoi、Shiramatsu Shun、Zhang Xiangyu、Kozaki Kouji
  • Journal Title: Semantic Technology, LNCS, Springer Volume: 12032 Pages: 18-34
  • DOI: 10.1007/978-3-030-41407-8_2
  • NAID: 130007917606
  • ISBN: 9783030414061, 9783030414078
  • Peer Reviewed
• [Presentation] Datasets of Mystery Stories for Knowledge Graph Reasoning Challenge (2023)
  • Author(s): Kozaki Kouji, Shusaku Egami, Kyoumoto Matsushita, Takanori Ugai, Takahiro Kawamura, Ken Fukuda
  • Organizer: Proceedings of Semantic Methods for Events and Stories (SEMMES) Workshop at ESWC2023
  • Int'l Joint Research
• [Presentation] 第2回国際ナレッジグラフ推論チャレンジ：日常生活に関するマルチモーダルデータからの行動の予測に対する LLM への適用 (2023)
  • Author(s): 鵜飼 孝典、江上 周作、川村 隆浩、古崎 晃司、森田 武史、松下 京群、小川 智広、吉岡 寛悟、平野 司、尾﨑 健吾、福田 賢一郎
  • Organizer: 第37回人工知能学会全国大会論文集1G4-OS-26a-04
• [Presentation] 家庭内の日常生活動画とイベント中心知識グラフの同時生成 ― ナレッジグラフ推論チャレンジ【実社会版】の開催に向けて ― (2023)
  • Author(s): 江上周作, 鵜飼孝典, Swe Nwe, Nwe Htun, 太田雅輝, 大野美喜子, 北村光司, 松下京群, 古崎晃司, 川村隆浩, 福田賢一郎
  • Organizer: 第37回人工知能学会全国大会論文集3G5-OS-24b-03
• [Presentation] 第1回国際版ナレッジグラフ推論チャレンジ2023開催報告 (2023)
  • Author(s): 古崎晃司, 江上周作, 松下京群, 鵜飼孝典, 川村隆浩, 福田賢一郎
  • Organizer: 第37回人工知能学会全国大会論文集4G2-OS-24c-05
• [Presentation] ナレッジグラフ推論チャレンジ【実社会版】開催報告 (2023)
  • Author(s): 鵜飼孝典, 江上周作, 川村隆浩, 松下京群, 古崎晃司, 福田賢一郎
  • Organizer: 人工知能学会セマンティックWebとオントロジー研究会(SIG SWO), 人工知能学会研究会資料 SIG-SWO-060-03
• [Presentation] ナレッジグラフ推論チャレンジ2023開催報告-生成AI時代のナレッジグラフ構築技術 (2023)
  • Author(s): 古崎 晃司，江上 周作，松下 京群，鵜飼 孝典，川村 隆浩，福田 賢一郎
  • Organizer: 人工知能学会セマンティックWebとオントロジー研究会(SIG SWO), 人工知能学会研究会資料 SIG-SWO-062-13
• [Presentation] 説明生成のための知識グラフ構築ガイドラインの考察 ー ナレッジグラフ推論チャレンジを例にして (2022)
  • Author(s): 古崎 晃司, 江上 周作, 松下 京群, 鵜飼 孝典, 川村 隆浩
  • Organizer: 第36回人工知能学会全国大会論文集 2E6-GS-3-02
• [Presentation] イベント中心知識グラフによる人間生活を含む環境のサイバー空間への転写にむけて (2022)
  • Author(s): 福田 賢一郎, 江上 周作, 鵜飼 孝典, 森田 武史, 大野 美喜子, 北村 光司, QIU YUE, 原 健翔, 古崎 晃司, 川村 隆浩
  • Organizer: 第36回人工知能学会全国大会論文集 3L4-GS-8
• [Presentation] イベント中心ナレッジグラフ埋め込みにおける メタデータ表現モデルの分析 (2022)
  • Author(s): 江上周作, 鵜飼孝典, 太田雅輝, 川村隆浩, 松下京群, 古崎晃司, 福田賢一郎
  • Organizer: 人工知能学会セマンティックWebとオントロジー研究会(SIG SWO), 人工知能学会研究会資料 SIG-SWO-057-05
• [Presentation] コンペティションによる協創：安心安全を守るAIの開発に向けて (2022)
  • Author(s): 鵜飼 孝典, 江上 周作, 大野 美喜子, 福田 賢一郎, 川村 隆浩, 古崎 晃司, 松下 京群
  • Organizer: 第191回ヒューマンインタフェース学会研究会「社会のデザイン・市民のデザイン」 SIG-UXSD-15
• [Presentation] 高齢者の家庭内事故予防に役立つAIシステムの開発 ー産業版ナレッジグラフ推論チャレンジに向けてー (2022)
  • Author(s): 鵜飼 孝典, 江上 周作, 大野 美喜子, 窪田 文也, 福田 賢一郎, 川村 隆浩, 古崎 晃司, 松下 京群
  • Organizer: 人工知能学会セマンティックWebとオントロジー研究会(SIG SWO), 人工知能学会研究会資料 SIG-SWO-056-15
• [Presentation] Knowledge Graph Reasoning Techniques through Studies on Mystery Stories -Report on the Knowledge Graph Reasoning Challenge 2018 to 2020 (2021)
  • Author(s): Kouji Kozaki, Shusaku Egami, Kyoumoto Matsushita, Takanori Ugai, Takahiro Kawamura
  • Organizer: Proceedings of 1st International Workshop on Knowledge Graph Reasoning for Explainable Artificial Intelligence (KGR4XAI)
  • Int'l Joint Research
• [Presentation] 第3回ナレッジグラフ推論チャレンジ2020開催報告～説明性のある人工知能システムを目指して～ (2021)
  • Author(s): 古崎 晃司, 江上 周作, 松下 京群, 鵜飼 孝典, 川村 隆浩
  • Organizer: 第35回人工知能学会全国大会論文集 (2H1-GS-3a-01)
• [Presentation] 第2回ナレッジグラフ推論チャレンジ2019開催報告～説明性のある人工知能システムを目指して～ (2020)
  • Author(s): 川村 隆浩, 江上 周作, 松下 京群, 田村 光太郎, 角田 充弘, 外園 康智, 黒川 茂莉, 鵜飼 孝典, 古崎 晃司
  • Organizer: 第34回人工知能学会全国大会 (1O4-GS-4-01)
• [Presentation] 第1回ナレッジグラフ推論チャレンジ2018開催報告－説明性のある人工知能システムを目指して－ (2019)
  • Author(s): 川村 隆浩, 江上 周作, 田村 光太郎, 外園 康智, 鵜飼 孝典, 小柳 佑介, 西野 文人, 岡嶋 成司, 村上 勝彦, 高松 邦彦, 杉浦 あおい, 白松 俊, 張 翔宇, 古崎 晃司
  • Organizer: 第33回人工知能学会全国大会, 1K2-J-4-04 2019年6月
• [Remarks] 12th Int'l Joint Conf. on Knowledge Graphs
  • URL: https://ijckg2023.knowledge-graph.jp/
• [Remarks] 2nd Int'l WS on KG Reasoning for Explainable AI
  • URL: https://kgr4xai.ikgrc.org/2023/
• [Remarks] ナレッジグラフ推論チャレンジ - 生成AI時代のナレッジグラフ構築技術
  • URL: https://challenge.knowledge-graph.jp/2023/
• [Remarks] Int'l Knowledge Graph Reasoning Challenge
  • URL: https://ikgrc.org/2024/
• [Remarks] 1st Int'l Knowledge Graph Reasoning Challenge 2023
  • URL: https://ikgrc.org/2023/
• [Remarks] ナレッジグラフ推論チャレンジ
  • URL: https://challenge.knowledge-graph.jp/2021/
• [Remarks] ナレッジグラフ推論チャレンジ
  • URL: https://challenge.knowledge-graph.jp/2020/
• [Funded Workshop] International Knowledge Graph Reasoning Challenge (IKGRC 2024) (2024)
• [Funded Workshop] The 12th International Joint Conference on Knowledge Graphs (IJCKG 2023) (2023)
• [Funded Workshop] The 2nd International Workshop on Knowledge Graph Reasoning for Explainable Artificial Intelligence (KGR4XAI 2023) (2023)
• [Funded Workshop] The 1st International Knowledge Graph Reasoning Challenge 2023 (2022)
• [Funded Workshop] The 1st International Workshop on Knowledge Graph Reasoning for Explainable Artificial Intelligence (KGR4XAI) (2021)