識別における因果構造を考慮したAIに対する攻撃機序の理解とその防御戦略の構築

• 研究課題/領域番号: 23H00483
• 研究種目: 基盤研究(A)
• 配分区分: 補助金
• 応募区分: 一般
• 審査区分: 中区分61:人間情報学およびその関連分野
• 研究機関: 東京工業大学
• 研究代表者: 佐久間 淳 東京工業大学, 情報理工学院, 教授 (90376963)
• 研究分担者: 清水 昌平 滋賀大学, データサイエンス学系, 教授 (10509871) ; 秋本 洋平 筑波大学, システム情報系, 准教授 (20709654) ; 福地 一斗 筑波大学, システム情報系, 助教 (30838090) ; 仙田 涼摩 国立研究開発法人理化学研究所, 革新知能統合研究センター, 特別研究員 (70965574)
• 研究期間 (年度): 2023-04-01 – 2028-03-31
• 研究課題ステータス: 交付 (2024年度)
• 配分額: 46,800千円 (直接経費: 36,000千円、間接経費: 10,800千円); 2024年度: 10,920千円 (直接経費: 8,400千円、間接経費: 2,520千円); 2023年度: 12,090千円 (直接経費: 9,300千円、間接経費: 2,790千円)
• キーワード: 深層学習 / 機械学習 / 敵対的サンプル / ポイズニング / 因果構造

研究開始時の研究の概要

深層学習による画像認識が社会のインフラを構成するような重要なシステムにおける活用が進むにつれ、悪意を持つ攻撃者によって深層学習の与える判断がコントロールされた場合の影響は深刻になる。既存のAIへの攻撃に対する防御戦略の多くは、攻撃者の挙動のモデル化に基づき防御を達成するため、攻撃者が防御戦略についての情報を得た場合、その防御戦略が回避されてしまう。本研究では、認識対象の判断に関する普遍的な因果構造や、攻撃の有無に起因する観測データの生成過程における因果構造の変化など、特定の攻撃戦略に依存しない要因に基づく防御戦略の構築に取り組む。