Multimodal Optimization in Generating Adversarial Examples Using Evolutionary Algorithm
| Project/Area Number |
20K11977
|
|---|
| Research Category |
Grant-in-Aid for Scientific Research (C)
|
| Allocation Type | Multi-year Fund |
|---|
| Section | 一般 |
|---|
| Review Section |
Basic Section 61040:Soft computing-related
|
|---|
| Research Institution | Nihon Fukushi University (2021-2022)
Hiroshima City University (2020) |
|---|
Principal Investigator |
串田 淳一 日本福祉大学, 健康科学部, 教授 (10558597)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
高濱 徹行 広島市立大学, 情報科学研究科, 教授 (80197194)
|
|---|
| Project Period (FY) |
2020-04-01 – 2024-03-31
|
| Project Status |
Granted (Fiscal Year 2022)
|
| Budget Amount *help |
¥3,640,000 (Direct Cost: ¥2,800,000、Indirect Cost: ¥840,000)
Fiscal Year 2023: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2022: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
Fiscal Year 2021: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2020: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
|
|---|
| Keywords | Adversarial Examples / 深層学習 / 進化計算 / Differential Evolution / 複数解探索 / 最適化 / 多峰性関数最適化 / 制約付き最適化 / Adversarial examples / 機械学習 |
|---|
| Outline of Research at the Start |
近年，深層学習は画像認識の分野で画期的な成果を上げている．その一方で，深層学習による画像認識技術は，Adversarial Examples (AE)と呼ばれる攻撃方法に対して脆弱性を持つことが報告されている．そのため，深層学習の実アプリケーションを運用する際には，様々なAEに対する防御方法を用意する必要がある．そこで本課題では生物の進化プロセスをモデル化した最適化アルゴリズムを用い，多様なAEを探索する方法を開発する．開発手法による攻撃を通して深層学習のAEに対する挙動を分析することで，より防御性能の高い深層学習モデルの開発に貢献することができる．
|
| Outline of Annual Research Achievements |
本課題では，機械学習モデルに対し誤分類を誘発するAdversarial Examples (AE)を生成する手法を提案する.AEの生成はモデルの内部情報を用いることができないBlack-box環境下で行うものとし，AEの探索方法として進化計算手法であるDifferential Evolution(DE)を用いる.
2022年度は，One pixel attackのNon-targeted attackにおける目的関数の景観に着目し，1 度の攻撃(アルゴリズム)の実行で複数のAEを獲得する手法について研究を行った．多クラス分類器に対するNon-targeted attackでは，正解クラス以外のクラスへ誤分類させる複数のAE(解)が存在する．そのため，目的関数の景観は多峰性関数と考えられる. 提案手法では，この多峰性関数において複数解を順番に探索できるように，目的関数にペナルティを動的に追加するという変更を加えた.また，DEの改良手法であるRank-based DE (RDE)を用いることで探索効率の向上を図った．RDEは個体群の適応度によって決定されるランク情報に基づき，親個体ごとに異なる制御パラメータの値を割り当てる手法である．
基本的なデータセットであるCIFAR-10と代表的な機械学習モデル(DenseNet, ResNet，WideResNet)を用いた実験を通し，提案手法はシンプルな工夫でありながら Targeted attackを複数回繰り返す方法よりも効率的に複数AEを発見できることを示した.また，RDEの多様性保持のメカニズムは複数解を連続して探索する際にも有効に機能することも確認した．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
研究計画では近傍グラフによる種分化を用い複数解探索の実現を考えていたが，DEを用いたAEの生成手法では摂動を加える画素数を増やすとそれに応じて探索空間が大きくなる．そのため，適切な近傍グラフの生成が難しくなり，個体群をサブ集団に分割することが困難であることが分かった.そこで，前年度はAEを発見した(探索済みの)谷に対して，順次ペナルティ を与える方法を考案した．本年度はそのアイディアに基づき，多クラス分類器に対して効率的に複数のAEを発見するOne pixel attackを提案した．提案手法の成果は，進化計算学会論文誌に採択された．そのため，おおむね順調に進展していると判断した．
|
| Strategy for Future Research Activity |
今年度は，DEを用いた複数のAEを発見するOne pixel attackを開発した．ただし，対象とした画像は解像度が低いCIFAR-10であり，今後はより解像度が高い画像に対しても複数AEが生成できるか検証する必要がある．高解像度の画像に対しては，1画素の変更では小さな影響しか与えない場合が多い．そのため，実際に攻撃を行う際には，複数の画素に対して摂動を加えることで攻撃の効果を高めることができる．しかしながら，探索空間の次元数も大きくなるため，より効率的な探索手法や戦略が求められる．
そこで次年度以降は，高解像度の画像を用いたAE生成問題を対象とし，探索空間を削減するための方法や高次元でも有効に機能する探索戦略を検討する．
|
Report
(3 results)
Research Products
(7 results)
