Frequency-domain-based visual explanation and robustness evaluation for object detection AI

Research Project

Project/Area Number	24K20800
Research Category	Grant-in-Aid for Early-Career Scientists
Allocation Type	Multi-year Fund
Review Section	Basic Section 61010:Perceptual information processing-related
Research Institution	Nihon University
Principal Investigator	関弘翔日本大学, 理工学部, 助教 (00755043)
Project Period (FY)	2024-04-01 – 2027-03-31
Project Status	Granted (Fiscal Year 2024)
Budget Amount *help	¥4,420,000 (Direct Cost: ¥3,400,000、Indirect Cost: ¥1,020,000) Fiscal Year 2026: ¥520,000 (Direct Cost: ¥400,000、Indirect Cost: ¥120,000) Fiscal Year 2025: ¥520,000 (Direct Cost: ¥400,000、Indirect Cost: ¥120,000) Fiscal Year 2024: ¥3,380,000 (Direct Cost: ¥2,600,000、Indirect Cost: ¥780,000)
Keywords	物体検出 / 深層学習 / XAI / 堅牢性
Outline of Research at the Start	AIが急速に社会に浸透していくなかで、透明性、説明可能性や堅牢性を備えた責任あるAIの実現が国際的に注目されている。AIの代表的な活用例である画像認識の判断根拠を可視化する手法は、画像内の何処に着目したかを示すものがほとんどである。さらに物体検出AIを実現するモデルにはいくつか種類があるが、どのような特徴を重視するか、すなわち何を視ているか、画像分類モデルほど解明が進んでいない現状がある。本研究では、様々なモデルで構築される物体検出AIが着目した画像特徴を周波数領域に基づいて可視化する新規手法を確立し、周波数領域での解析を通してモデルの判断傾向の比較や堅牢性を評価することを目指す。