識別における因果構造を考慮したAIに対する攻撃機序の理解とその防御戦略の構築

2023 年度 審査結果の所見

• 研究課題/領域番号: 23H00483
• 研究種目: 基盤研究(A)
• 配分区分: 補助金
• 応募区分: 一般
• 審査区分: 中区分61:人間情報学およびその関連分野
• 研究機関: 東京科学大学
• 研究代表者: 佐久間 淳 東京科学大学, 情報理工学院, 教授 (90376963)
• 研究分担者: 清水 昌平 大阪大学, 産業科学研究所, 教授 (10509871) ; 秋本 洋平 筑波大学, システム情報系, 准教授 (20709654) ; 福地 一斗 筑波大学, システム情報系, 助教 (30838090) ; 仙田 涼摩 国立研究開発法人理化学研究所, 革新知能統合研究センター, 特別研究員 (70965574)
• 研究期間 (年度): 2023-04-01 – 2028-03-31

研究の概要

本研究は、深層学習による画像認識において、特定の攻撃戦略や攻撃対象に依存をせず、攻撃者が対策困難な防御戦略を構築し、実用的なタスクで有効性を検証する。そのために、識別対象データの識別過程における本質的要因と変動要因の分離と攻撃メカニズムを解明し、識別対象データの生成過程に普遍的に現れる因果構造を考慮した防衛戦略を構築する。

学術的意義、期待される成果

研究の目的は、「認識対象の識別における要因の分離を行い、攻撃がそれぞれの要因に与える影響を明らかにすること」と言うように具体的であり、特定の攻撃モデルを想定しないという点に学術的意義が認められる。また、その成果は、病理画像診断や、自動運転における物体認識に応用が可能であり、社会的意義が大きい。