Multimodal Optimization in Generating Adversarial Examples Using Evolutionary Algorithm
| Project/Area Number |
20K11977
|
|---|
| Research Category |
Grant-in-Aid for Scientific Research (C)
|
| Allocation Type | Multi-year Fund |
|---|
| Section | 一般 |
|---|
| Review Section |
Basic Section 61040:Soft computing-related
|
|---|
| Research Institution | Nihon Fukushi University (2021-2023)
Hiroshima City University (2020) |
|---|
Principal Investigator |
串田 淳一 日本福祉大学, 健康科学部, 教授 (10558597)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
高濱 徹行 広島市立大学, 情報科学研究科, 教授 (80197194)
|
|---|
| Project Period (FY) |
2020-04-01 – 2024-03-31
|
| Project Status |
Completed (Fiscal Year 2023)
|
| Budget Amount *help |
¥3,640,000 (Direct Cost: ¥2,800,000、Indirect Cost: ¥840,000)
Fiscal Year 2023: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2022: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
Fiscal Year 2021: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2020: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
|
|---|
| Keywords | Adversarial Examples / 深層学習 / 進化計算 / Differential Evolution / 複数解探索 / 最適化 / 多峰性関数最適化 / 制約付き最適化 / Adversarial examples / 機械学習 |
|---|
| Outline of Research at the Start |
近年，深層学習は画像認識の分野で画期的な成果を上げている．その一方で，深層学習による画像認識技術は，Adversarial Examples (AE)と呼ばれる攻撃方法に対して脆弱性を持つことが報告されている．そのため，深層学習の実アプリケーションを運用する際には，様々なAEに対する防御方法を用意する必要がある．そこで本課題では生物の進化プロセスをモデル化した最適化アルゴリズムを用い，多様なAEを探索する方法を開発する．開発手法による攻撃を通して深層学習のAEに対する挙動を分析することで，より防御性能の高い深層学習モデルの開発に貢献することができる．
|
| Outline of Annual Research Achievements |
本課題では，機械学習モデルに対し誤分類を誘発するAdversarial Examples (AE)を生成する手法を提案する.AEの生成はモデルの内部情報を用いることができないBlack-box環境下で行うものとし，攻撃方法として進化計算手法であるDifferential Evolution(DE)によるOne pixel attackを用いている．本来，One pixel attackは画像の1ピクセルのみを変更することによって機械学習モデルの予測を誤らせる手法である．ただし，高解像度画像に対しては1つのピクセルを変更しても，その影響が画像全体に及ぶことは少ない．つまり，モデルが画像に加えた摂動による影響を検出しにくいためOne pixel attackの効果は低下する．
そのため2023年度は，高解像度画像を対象としたOne pixel attackに着目した．高解像度画像に対しては複数ピクセルの摂動が必要となるが，これにより探索空間が増大し，攻撃の難易度が高まる．よって，より洗練された探索アルゴリズムの開発が求められる．この課題に対し，DEの改良手法であるRank-based DE (RDE)とmulti-vector mutationを組み合わせることにより探索性能の向上を図った．開発した手法では，適応度によるランクを利用して個体ごとに異なる突然変異率と交叉率を割り当てる．また，multi-vector mutationにおける変異ベクトル数の設定にもランクの情報を利用する．実験では，ImageNetの画像データセットを学習したVGG16モデルを対象とし，高解像度の画像に対する数ピクセル攻撃を行った．実験結果より，大規模な探索空間に対しても開発手法は標準的なDEよりも高速にAEを発見できることを示した．
|
Report
(4 results)
Research Products
(8 results)
