説明可能AIはユーザをナッジできるか

• 研究課題/領域番号: 24K20846
• 研究種目: 若手研究
• 配分区分: 基金
• 審査区分: 小区分61030:知能情報学関連
• 研究機関: 東京都立大学
• 研究代表者: 福地 庸介 東京都立大学, システムデザイン研究科, 助教 (00989981)
• 研究期間 (年度): 2024-04-01 – 2027-03-31
• 研究課題ステータス: 交付 (2024年度)
• 配分額: 4,680千円 (直接経費: 3,600千円、間接経費: 1,080千円); 2026年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円); 2025年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円); 2024年度: 2,600千円 (直接経費: 2,000千円、間接経費: 600千円)
• キーワード: 説明可能AI / 人-AIインタラクション / ナッジXAI / ヒューマンエージェントインタラクション

研究開始時の研究の概要

本研究では、専門知識のない一般のエンドユーザであってもAIを最大限に有効活用し、より良い判断を下すことができるようにすることを目指して、ナッジXAI技術を開発する。ナッジXAIは、一般の説明可能AI(XAI)のように単にAIの判断を説明することに終始するのではなく、状況やユーザの認知に合わせて説明を動的・適応的に変更することで、ユーザによる最終判断をより良いものに導こうとする。本研究によって、AIの失敗をユーザが抑止する余地を残しながら、納得感のある形でより良い判断が下すことができる、人とAIの協調の新たな形を提示することを目指す。