| Project/Area Number |
24K20846
|
|---|
| Research Category |
Grant-in-Aid for Early-Career Scientists
|
| Allocation Type | Multi-year Fund |
|---|
| Review Section |
Basic Section 61030:Intelligent informatics-related
|
|---|
| Research Institution | Tokyo Metropolitan University |
|---|
Principal Investigator |
福地 庸介 東京都立大学, システムデザイン研究科, 助教 (00989981)
|
|---|
| Project Period (FY) |
2024-04-01 – 2027-03-31
|
| Project Status |
Granted (Fiscal Year 2024)
|
| Budget Amount *help |
¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000)
Fiscal Year 2026: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2025: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2024: ¥2,600,000 (Direct Cost: ¥2,000,000、Indirect Cost: ¥600,000)
|
|---|
| Keywords | ナッジ / 説明可能AI / 人-AIインタラクション / ユーザモデリング / ナッジXAI / ヒューマンエージェントインタラクション |
|---|
| Outline of Research at the Start |
本研究では、専門知識のない一般のエンドユーザであってもAIを最大限に有効活用し、より良い判断を下すことができるようにすることを目指して、ナッジXAI技術を開発する。ナッジXAIは、一般の説明可能AI(XAI)のように単にAIの判断を説明することに終始するのではなく、状況やユーザの認知に合わせて説明を動的・適応的に変更することで、ユーザによる最終判断をより良いものに導こうとする。本研究によって、AIの失敗をユーザが抑止する余地を残しながら、納得感のある形でより良い判断が下すことができる、人とAIの協調の新たな形を提示することを目指す。
|
| Outline of Annual Research Achievements |
本年度は、クラウドソーシングを利用したユーザスタディにより、説明可能AI（XAI）の説明と、それを受けたユーザの判断からなるデータセットを構築した。また、データセットをもとに、説明から判断に与える影響を予測するユーザモデルを開発した。さらに、ユーザモデルをもとにナッジXAIのプロトタイプを開発し、評価実験を行なった。結果、AIの性能が良い場合に、AIが推奨する判断を明示しなくても、説明の選択的提示によってユーザの判断をAIの推奨に導くことができることが示唆された。また、AIの性能が悪い場合に、ユーザの一部が主体的にAIのナッジに反する判断を選択できることがわかった。一方、ユーザの主体的判断が必ずしもタスクパフォーマンスの向上につながっていないこと、プロトタイプアルゴリズムによるXAIナッジの効き方に個人差が大きいこともわかった。本成果は、査読付国際会議で発表した。
本研究に関連する内容として、ナッジXAIの倫理面からの検討も行い、国際会議で発表した。また、国際会議IEEE RO-MANにおいて、スペシャルセッションを共同開催した。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
計画通りユーザデータの収集とユーザモデルの開発を行なっただけでなく、ナッジXAIアルゴリズムのプロトタイプの開発と評価実験にこぎつけたことは、当初の研究計画のペースを上回っている。この実験により、ナッジXAIアルゴリズム開発の課題も見つかったものの、計画の実施前に課題の洗い出しができており、今後も計画の順調な進展が見込まれる。
|
| Strategy for Future Research Activity |
プロトタイプによる実験で見つかった課題を踏まながら、ナッジXAIアルゴリズムの改良を行い、人間-AI協調意思決定をパフォーマンスと主観の両面でどれだけ改善することができるか検証する。
|
