2020 Fiscal Year Research-status Report
Multimodal Optimization in Generating Adversarial Examples Using Evolutionary Algorithm
| Project/Area Number |
20K11977
|
|---|
| Research Institution | Hiroshima City University |
|---|
Principal Investigator |
串田 淳一 広島市立大学, 情報科学研究科, 准教授 (10558597)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
高濱 徹行 広島市立大学, 情報科学研究科, 教授 (80197194)
|
|---|
| Project Period (FY) |
2020-04-01 – 2024-03-31
|
| Keywords | Adversarial Examples / 進化計算 / 最適化 / 深層学習 |
|---|
| Outline of Annual Research Achievements |
初年度の研究では，以下を中心に研究を進めた．
・実環境での攻撃を考慮した制約下におけるAE探索性能の向上
本課題では，深層学習に基づく画像認識や手書き文字認識に対し，誤分類を誘発するAdversarial Examples (AE)を生成する手法を提案する．また，AEの探索方法として進化計算手法であるDifferential Evolution(DE)を用いる． 従来研究では，画像に対する摂動をDEの解候補として進化させることで，少ないpixel 数の変化でAEを生成できるこ とを確認している. しかしながら，AEの画素値の変化 (摂動量) が大きいと，肉眼で容易にAEであることを判別できる.本年度は，生成されるAEが一定の摂動量の範囲となるように限定した問題を対象とした．そのため，AE生成問題を制約付き最適化問題として定式化した． この問題を解くために，制約対処法として簡単な変更で制約なし最適化手法を制約付き最適化手法に変換できるε制約法を用いた．また，DEのアルゴリズムとして，制御パラメータ適応機構を持つJADEを採用した． 開発手法(εJADE)によるAE生成の有効性を確認するために，Cifar-10を学習した幾つかの代表的な機械学習モデル(DenseNet, ResNet等)を分類器として用いた実験を行った． 実験結果より，制約条件である摂動量の上限を低くすることで，攻撃の成功率は下がるが肉眼では判別が難しいAEを探索することができた.また，対象画像のクラスによってAE生成の難度が異なることも確認できた．さらに，JADEのパラメータ適応の過程を分析した結果，交叉率CRの値が探索の経過とともに上昇することが分かった．そのため，定式化したAE生成問題はRosenbrock関数のように，変数間の依存関係が強い問題であると推測される．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本課題では，現実的なシナリオの下で多様なAEを生成できる攻撃方法の開発を目的としており，今年度はまず，肉眼では感知できない程度の摂動量の制約の下でAEを生成できるかを検討した．そこで，制約付き最適化問題として定式化したAE生成問題に対しεJADEを適用した結果，少ないピクセル数の変化と微小な摂動量でAEを生成することに成功した．そのため，概ね順調に進展していると考えている．しかしながら，進化計算手法であるDEは個体群を用いた多点探索手法であり，モデルへのアクセス回数(関数評価回数)は他の攻撃手法よりも大きくなる傾向があることが分かった．そのため，JADEのパラメータ適応だけではなく，世代交代モデルの改良やAE生成に適したコード化などを導入して，探索の高速化を図る必要がある．
|
| Strategy for Future Research Activity |
今後は，AE探索の高速化（モデルへのアクセス回数の削減）も目的とし，他の攻撃方法で用いられているAEの特性を利用した局所探索などの導入も検討する．その後は研究計画に従い，複数の解を同時に探索するための種分化型DEの開発を行う． 多様なクラスに誤認識させる摂動を獲得するためには，似たような摂動の情報(座標・色情報)と出力パターン(各クラスの確信度)を持つ個体を同一の種とみなす種分化が必要となる.種分化の方法として，申請者らが提案した近傍グラフを用いる方法を予定している．また，種分化型DEの評価は，初年度と同様にCifar-10やMNISTなどを学習した基本的な機械学習モデルを対象として行う予定である．
|
| Causes of Carryover |
次年度使用額が生じた理由は，新型コロナウィルスの感染拡大のため，参加を予定していた学会・研究会が中止・オンライン開催となり，参加費および旅費を予定通り使用出来なかったためである．今後，新型コロナウィルスの終息状況に合わせて，使用計画を修正する予定である．
|
Research Products
(3 results)
