物体検出AIの周波数領域に基づく判断根拠可視化および堅牢性評価

• 研究課題/領域番号: 24K20800
• 研究種目: 若手研究
• 配分区分: 基金
• 審査区分: 小区分61010:知覚情報処理関連
• 研究機関: 日本大学
• 研究代表者: 関 弘翔 日本大学, 理工学部, 助教 (00755043)
• 研究期間 (年度): 2024-04-01 – 2027-03-31
• 研究課題ステータス: 交付 (2024年度)
• 配分額: 4,420千円 (直接経費: 3,400千円、間接経費: 1,020千円); 2026年度: 520千円 (直接経費: 400千円、間接経費: 120千円); 2025年度: 520千円 (直接経費: 400千円、間接経費: 120千円); 2024年度: 3,380千円 (直接経費: 2,600千円、間接経費: 780千円)
• キーワード: 物体検出 / 深層学習 / XAI / 堅牢性

研究開始時の研究の概要

AIが急速に社会に浸透していくなかで、透明性、説明可能性や堅牢性を備えた責任あるAIの実現が国際的に注目されている。AIの代表的な活用例である画像認識の判断根拠を可視化する手法は、画像内の何処に着目したかを示すものがほとんどである。さらに物体検出AIを実現するモデルにはいくつか種類があるが、どのような特徴を重視するか、すなわち何を視ているか、画像分類モデルほど解明が進んでいない現状がある。
本研究では、様々なモデルで構築される物体検出AIが着目した画像特徴を周波数領域に基づいて可視化する新規手法を確立し、周波数領域での解析を通してモデルの判断傾向の比較や堅牢性を評価することを目指す。