A method for explaining cognitive processes in AI via brain information space

Research Project

Project/Area Number	24K22328
Research Category	Grant-in-Aid for Challenging Research (Exploratory)
Allocation Type	Multi-year Fund
Review Section	Medium-sized Section 61:Human informatics and related fields
Research Institution	National Institute of Information and Communications Technology
Principal Investigator	西田知史国立研究開発法人情報通信研究機構, 未来ICT研究所脳情報通信融合研究センター, 主任研究員 (90751933)
Project Period (FY)	2024-06-28 – 2026-03-31
Project Status	Granted (Fiscal Year 2024)
Budget Amount *help	¥6,500,000 (Direct Cost: ¥5,000,000、Indirect Cost: ¥1,500,000) Fiscal Year 2025: ¥3,900,000 (Direct Cost: ¥3,000,000、Indirect Cost: ¥900,000) Fiscal Year 2024: ¥2,600,000 (Direct Cost: ¥2,000,000、Indirect Cost: ¥600,000)
Keywords	説明可能AI / 深層ニューラルネット / 脳 / 認知過程 / fMRI
Outline of Research at the Start	深層ニューラルネット（DNN）の内部情報と脳活動の対応関係を獲得して、任意の視覚・言語入力に対するDNNの情報処理過程を脳活動の時空間パターンとして可視化し、脳の情報処理過程に置き換えて認知的な解釈を可能にするための技術を開発する。本研究の開発技術は、既存の説明可能AI（XAI）技術とは一線を画す、脳の情報処理の観点から人間にとって理解しやすい多角的な解釈を与える技術として、XAIに変革をもたらす。これにより、DNNの解釈可能性を著しく向上させるだけでなく、DNNと脳の相同性と差異を明確化するとともに、DNNに脳らしい振る舞いをもたせる重要な評価指標を提供する。