2023 Fiscal Year Annual Research Report
Multimodal Optimization in Generating Adversarial Examples Using Evolutionary Algorithm
| Project/Area Number |
20K11977
|
|---|
| Research Institution | Nihon Fukushi University |
|---|
Principal Investigator |
串田 淳一 日本福祉大学, 健康科学部, 教授 (10558597)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
高濱 徹行 広島市立大学, 情報科学研究科, 教授 (80197194)
|
|---|
| Project Period (FY) |
2020-04-01 – 2024-03-31
|
| Keywords | Adversarial Examples / 深層学習 / 進化計算 / Differential Evolution / 複数解探索 |
|---|
| Outline of Annual Research Achievements |
本課題では，機械学習モデルに対し誤分類を誘発するAdversarial Examples (AE)を生成する手法を提案する.AEの生成はモデルの内部情報を用いることができないBlack-box環境下で行うものとし，攻撃方法として進化計算手法であるDifferential Evolution(DE)によるOne pixel attackを用いている．本来，One pixel attackは画像の1ピクセルのみを変更することによって機械学習モデルの予測を誤らせる手法である．ただし，高解像度画像に対しては1つのピクセルを変更しても，その影響が画像全体に及ぶことは少ない．つまり，モデルが画像に加えた摂動による影響を検出しにくいためOne pixel attackの効果は低下する．
そのため2023年度は，高解像度画像を対象としたOne pixel attackに着目した．高解像度画像に対しては複数ピクセルの摂動が必要となるが，これにより探索空間が増大し，攻撃の難易度が高まる．よって，より洗練された探索アルゴリズムの開発が求められる．この課題に対し，DEの改良手法であるRank-based DE (RDE)とmulti-vector mutationを組み合わせることにより探索性能の向上を図った．開発した手法では，適応度によるランクを利用して個体ごとに異なる突然変異率と交叉率を割り当てる．また，multi-vector mutationにおける変異ベクトル数の設定にもランクの情報を利用する．実験では，ImageNetの画像データセットを学習したVGG16モデルを対象とし，高解像度の画像に対する数ピクセル攻撃を行った．実験結果より，大規模な探索空間に対しても開発手法は標準的なDEよりも高速にAEを発見できることを示した．
|
Research Products
(1 results)
