2022 Fiscal Year Research-status Report
Multimodal Optimization in Generating Adversarial Examples Using Evolutionary Algorithm
| Project/Area Number |
20K11977
|
|---|
| Research Institution | Nihon Fukushi University |
|---|
Principal Investigator |
串田 淳一 日本福祉大学, 健康科学部, 教授 (10558597)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
高濱 徹行 広島市立大学, 情報科学研究科, 教授 (80197194)
|
|---|
| Project Period (FY) |
2020-04-01 – 2024-03-31
|
| Keywords | Adversarial Examples / 深層学習 / 進化計算 / Differential Evolution / 複数解探索 |
|---|
| Outline of Annual Research Achievements |
本課題では，機械学習モデルに対し誤分類を誘発するAdversarial Examples (AE)を生成する手法を提案する.AEの生成はモデルの内部情報を用いることができないBlack-box環境下で行うものとし，AEの探索方法として進化計算手法であるDifferential Evolution(DE)を用いる.
2022年度は，One pixel attackのNon-targeted attackにおける目的関数の景観に着目し，1 度の攻撃(アルゴリズム)の実行で複数のAEを獲得する手法について研究を行った．多クラス分類器に対するNon-targeted attackでは，正解クラス以外のクラスへ誤分類させる複数のAE(解)が存在する．そのため，目的関数の景観は多峰性関数と考えられる. 提案手法では，この多峰性関数において複数解を順番に探索できるように，目的関数にペナルティを動的に追加するという変更を加えた.また，DEの改良手法であるRank-based DE (RDE)を用いることで探索効率の向上を図った．RDEは個体群の適応度によって決定されるランク情報に基づき，親個体ごとに異なる制御パラメータの値を割り当てる手法である．
基本的なデータセットであるCIFAR-10と代表的な機械学習モデル(DenseNet, ResNet，WideResNet)を用いた実験を通し，提案手法はシンプルな工夫でありながら Targeted attackを複数回繰り返す方法よりも効率的に複数AEを発見できることを示した.また，RDEの多様性保持のメカニズムは複数解を連続して探索する際にも有効に機能することも確認した．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
研究計画では近傍グラフによる種分化を用い複数解探索の実現を考えていたが，DEを用いたAEの生成手法では摂動を加える画素数を増やすとそれに応じて探索空間が大きくなる．そのため，適切な近傍グラフの生成が難しくなり，個体群をサブ集団に分割することが困難であることが分かった.そこで，前年度はAEを発見した(探索済みの)谷に対して，順次ペナルティ を与える方法を考案した．本年度はそのアイディアに基づき，多クラス分類器に対して効率的に複数のAEを発見するOne pixel attackを提案した．提案手法の成果は，進化計算学会論文誌に採択された．そのため，おおむね順調に進展していると判断した．
|
| Strategy for Future Research Activity |
今年度は，DEを用いた複数のAEを発見するOne pixel attackを開発した．ただし，対象とした画像は解像度が低いCIFAR-10であり，今後はより解像度が高い画像に対しても複数AEが生成できるか検証する必要がある．高解像度の画像に対しては，1画素の変更では小さな影響しか与えない場合が多い．そのため，実際に攻撃を行う際には，複数の画素に対して摂動を加えることで攻撃の効果を高めることができる．しかしながら，探索空間の次元数も大きくなるため，より効率的な探索手法や戦略が求められる．
そこで次年度以降は，高解像度の画像を用いたAE生成問題を対象とし，探索空間を削減するための方法や高次元でも有効に機能する探索戦略を検討する．
|
| Causes of Carryover |
次年度使用額が生じた理由は，新型コロナウィルスの感染拡大のため，参加を予定していた学会・研究会の一部がオンライン開催となり，計画していた参加費・登壇費 および旅費を予定通り使用出来なかったためである.今後，新型コロナウィルスの終息状況に合わせて，使用計画を修正する予定である.具体的には，学術論文の掲載料や消耗品購入等に使用することを計画している.
|
Research Products
(2 results)
