再攻撃により敵対的事例を矯正する深層ニューラルネットワーク防御方式の研究

• Project/Area Number: 25K15276
• Research Category: Grant-in-Aid for Scientific Research (C)
• Allocation Type: Multi-year Fund
• Section: 一般
• Review Section: Basic Section 61040:Soft computing-related
• Research Institution: Kagoshima University
• Principal Investigator: 小野 智司 鹿児島大学, 理工学域工学系, 教授 (90363605)
• Project Period (FY): 2025-04-01 – 2028-03-31
• Project Status: Granted (Fiscal Year 2025)
• Budget Amount: ¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000); Fiscal Year 2027: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000); Fiscal Year 2026: ¥2,080,000 (Direct Cost: ¥1,600,000、Indirect Cost: ¥480,000); Fiscal Year 2025: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
• Keywords: 機械学習セキュリティ / 敵対的攻撃 / 敵対的事例 / 防御 / 再攻撃

Outline of Research at the Start

入力に微小な摂動が加えられた敵対的事例（AE）により深層ニューラルネットワーク（DNN）が誤認識を起こしてしまう脆弱性の問題は，自己注意機構を採用する近年の基盤モデルにおいても確認されており，AEからDNNを保護する敵対的防御の重要性が増している．AEを検出するのみでは，自動運転における標識認識のように安全を保てない分野があることから，本研究では，AEに対して再攻撃を行うことで，AEから正しい推論結果を導出する矯正方式を提案する．本方式が画像，言語等のモダリティを問わずに適用でき，事前訓練やパラメータ調整が不要であることを示す．