A method for explaining cognitive processes in AI via brain information space

• Project/Area Number: 24K22328
• Research Category: Grant-in-Aid for Challenging Research (Exploratory)
• Allocation Type: Multi-year Fund
• Review Section: Medium-sized Section 61:Human informatics and related fields
• Research Institution: National Institute of Information and Communications Technology
• Principal Investigator: 西田 知史 国立研究開発法人情報通信研究機構, 未来ICT研究所脳情報通信融合研究センター, 主任研究員 (90751933)
• Project Period (FY): 2024-06-28 – 2026-03-31
• Project Status: Granted (Fiscal Year 2024)
• Budget Amount: ¥6,500,000 (Direct Cost: ¥5,000,000、Indirect Cost: ¥1,500,000); Fiscal Year 2025: ¥3,900,000 (Direct Cost: ¥3,000,000、Indirect Cost: ¥900,000); Fiscal Year 2024: ¥2,600,000 (Direct Cost: ¥2,000,000、Indirect Cost: ¥600,000)
• Keywords: 説明可能AI / 深層ニューラルネット / 脳 / 認知過程 / fMRI

Outline of Research at the Start

深層ニューラルネット（DNN）の内部情報と脳活動の対応関係を獲得して、任意の視覚・言語入力に対するDNNの情報処理過程を脳活動の時空間パターンとして可視化し、脳の情報処理過程に置き換えて認知的な解釈を可能にするための技術を開発する。本研究の開発技術は、既存の説明可能AI（XAI）技術とは一線を画す、脳の情報処理の観点から人間にとって理解しやすい多角的な解釈を与える技術として、XAIに変革をもたらす。これにより、DNNの解釈可能性を著しく向上させるだけでなく、DNNと脳の相同性と差異を明確化するとともに、DNNに脳らしい振る舞いをもたせる重要な評価指標を提供する。