Classification of inference and estimation techniques based on knowledge graphs for realizing Explainable AI systems

2023 Fiscal Year Final Research Report

• Project/Area Number: 19H04168
• Research Category: Grant-in-Aid for Scientific Research (B)
• Allocation Type: Single-year Grants
• Section: 一般
• Review Section: Basic Section 61030:Intelligent informatics-related
• Research Institution: National Agriculture and Food Research Organization
• Principal Investigator: KAWAMURA Takahiro 国立研究開発法人農業・食品産業技術総合研究機構, 農業情報研究センター, 副センター長 (10426653)
• Co-Investigator(Kenkyū-buntansha): 古崎 晃司 大阪電気通信大学, 情報通信工学部, 教授 (00362624) ; 江上 周作 国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 研究員 (20846000)
• Project Period (FY): 2019-04-01 – 2024-03-31
• Keywords: ナレッジグラフ / 機械学習 / 論理推論 / 解釈可能性 / 説明可能性 / オントロジー / セマンティックWeb / 人工知能

Outline of Final Research Achievements

In this project, with the aim of realizing Explainable AI, a dataset of a mystery novel converted into a knowledge graph was made public, and the task was to deduce the culprit with a reason. As a result, we held 8 technology contests in Japan and abroad, and received a total of about 50 technology proposals, which we classified and organized, and published them in the following academic papers.
Contextualized Scene Knowledge Graphs for XAI Benchmarking, T. Kawamura, et al.,
11th Int'l J. Conf. on Knowledge Graphs 2022

Free Research Field

知識処理

Academic Significance and Societal Importance of the Research Achievements

ナレッジグラフとは、近年、DX化を推進するツールとして注目されているデータの整理・活用方法である。データ群をナレッジグラフとして統合することで、AIでの活用が容易になるという利点がある。
本課題では、AIの社会実装に当たって必ず問題となるAIシステムの解釈可能性（何故、AIはそういう結果を出したのか）にフォーカスし、ナレッジグラフとAIシステムの在り方を整理し、広く社会に浸透させることを図ってきた。また、2023年からは生成AIによってAI分野に大きな変革が起きたことを踏まえ、生成AIを説明するためにナレッジグラフを如何に用いるかにもフォーカスして技術を整理し、社会実装への貢献を図った。