再攻撃により敵対的事例を矯正する深層ニューラルネットワーク防御方式の研究

• 研究課題/領域番号: 25K15276
• 研究種目: 基盤研究(C)
• 配分区分: 基金
• 応募区分: 一般
• 審査区分: 小区分61040:ソフトコンピューティング関連
• 研究機関: 鹿児島大学
• 研究代表者: 小野 智司 鹿児島大学, 理工学域工学系, 教授 (90363605)
• 研究期間 (年度): 2025-04-01 – 2028-03-31
• 研究課題ステータス: 交付 (2025年度)
• 配分額: 4,680千円 (直接経費: 3,600千円、間接経費: 1,080千円); 2027年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円); 2026年度: 2,080千円 (直接経費: 1,600千円、間接経費: 480千円); 2025年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円)
• キーワード: 機械学習セキュリティ / 敵対的攻撃 / 敵対的事例 / 防御 / 再攻撃

研究開始時の研究の概要

入力に微小な摂動が加えられた敵対的事例（AE）により深層ニューラルネットワーク（DNN）が誤認識を起こしてしまう脆弱性の問題は，自己注意機構を採用する近年の基盤モデルにおいても確認されており，AEからDNNを保護する敵対的防御の重要性が増している．AEを検出するのみでは，自動運転における標識認識のように安全を保てない分野があることから，本研究では，AEに対して再攻撃を行うことで，AEから正しい推論結果を導出する矯正方式を提案する．本方式が画像，言語等のモダリティを問わずに適用でき，事前訓練やパラメータ調整が不要であることを示す．