説明可能AIはユーザをナッジできるか

• Project/Area Number: 24K20846
• Research Category: Grant-in-Aid for Early-Career Scientists
• Allocation Type: Multi-year Fund
• Review Section: Basic Section 61030:Intelligent informatics-related
• Research Institution: Tokyo Metropolitan University
• Principal Investigator: 福地 庸介 東京都立大学, システムデザイン研究科, 助教 (00989981)
• Project Period (FY): 2024-04-01 – 2027-03-31
• Project Status: Granted (Fiscal Year 2024)
• Budget Amount: ¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000); Fiscal Year 2026: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000); Fiscal Year 2025: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000); Fiscal Year 2024: ¥2,600,000 (Direct Cost: ¥2,000,000、Indirect Cost: ¥600,000)
• Keywords: 説明可能AI / 人-AIインタラクション / ナッジXAI / ヒューマンエージェントインタラクション

Outline of Research at the Start

本研究では、専門知識のない一般のエンドユーザであってもAIを最大限に有効活用し、より良い判断を下すことができるようにすることを目指して、ナッジXAI技術を開発する。ナッジXAIは、一般の説明可能AI(XAI)のように単にAIの判断を説明することに終始するのではなく、状況やユーザの認知に合わせて説明を動的・適応的に変更することで、ユーザによる最終判断をより良いものに導こうとする。本研究によって、AIの失敗をユーザが抑止する余地を残しながら、納得感のある形でより良い判断が下すことができる、人とAIの協調の新たな形を提示することを目指す。