Analysis of Image Deep Neural Network with Visualization

• Project/Area Number: 25K03125
• Research Category: Grant-in-Aid for Scientific Research (B)
• Allocation Type: Multi-year Fund
• Section: 一般
• Review Section: Basic Section 60090:High performance computing-related; Basic Section 60040:Computer system-related; Sections That Are Subject to Joint Review: Basic Section60040:Computer system-related , Basic Section60090:High performance computing-related
• Research Institution: The University of Tokyo
• Principal Investigator: 山口 泰 東京大学, 大学院総合文化研究科, 教授 (80210376)
• Project Period (FY): 2025-04-01 – 2028-03-31
• Project Status: Granted (Fiscal Year 2025)
• Budget Amount: ¥18,850,000 (Direct Cost: ¥14,500,000、Indirect Cost: ¥4,350,000); Fiscal Year 2027: ¥4,940,000 (Direct Cost: ¥3,800,000、Indirect Cost: ¥1,140,000); Fiscal Year 2026: ¥5,590,000 (Direct Cost: ¥4,300,000、Indirect Cost: ¥1,290,000); Fiscal Year 2025: ¥8,320,000 (Direct Cost: ¥6,400,000、Indirect Cost: ¥1,920,000)
• Keywords: 画像深層ニューラルネットワーク / 説明可能AI / 可視化 / 非写実的描画 / 視覚特性

Outline of Research at the Start

深層ニューラルネットワーク（DNN）の振舞はブラックボックス的であり，説明可能AIが重要との指摘がなされている．本研究は，画像を入力とするDNNの説明可能性を向上するための可視化手法を研究する．特に，DNNへの入力画像，計算過程，出力結果の間の関与度を計算したうえで，得られた関与度の特徴（意味）を明らかにする特徴可視化を主な研究対象とする．本研究では敵対的生成ネットワーク（GAN）の利用によって，特徴可視化を自然でヒトに理解しやすいものとすることを目指す．具体的には，写実的な特徴可視化，非写実的な特徴可視化，ヒト視覚との比較などについて研究を進める．