識別における因果構造を考慮したAIに対する攻撃機序の理解とその防御戦略の構築

2023 Fiscal Year Comments on the Screening Results

• Project/Area Number: 23H00483
• Research Category: Grant-in-Aid for Scientific Research (A)
• Allocation Type: Single-year Grants
• Section: 一般
• Review Section: Medium-sized Section 61:Human informatics and related fields
• Research Institution: Institute of Science Tokyo
• Principal Investigator: 佐久間 淳 東京科学大学, 情報理工学院, 教授 (90376963)
• Co-Investigator(Kenkyū-buntansha): 清水 昌平 大阪大学, 産業科学研究所, 教授 (10509871) ; 秋本 洋平 筑波大学, システム情報系, 准教授 (20709654) ; 福地 一斗 筑波大学, システム情報系, 助教 (30838090) ; 仙田 涼摩 国立研究開発法人理化学研究所, 革新知能統合研究センター, 特別研究員 (70965574)
• Project Period (FY): 2023-04-01 – 2028-03-31

Summary of the Research Project

本研究は、深層学習による画像認識において、特定の攻撃戦略や攻撃対象に依存をせず、攻撃者が対策困難な防御戦略を構築し、実用的なタスクで有効性を検証する。そのために、識別対象データの識別過程における本質的要因と変動要因の分離と攻撃メカニズムを解明し、識別対象データの生成過程に普遍的に現れる因果構造を考慮した防衛戦略を構築する。

Scientific Significance and Expected Research Achievements

研究の目的は、「認識対象の識別における要因の分離を行い、攻撃がそれぞれの要因に与える影響を明らかにすること」と言うように具体的であり、特定の攻撃モデルを想定しないという点に学術的意義が認められる。また、その成果は、病理画像診断や、自動運転における物体認識に応用が可能であり、社会的意義が大きい。