| 研究課題/領域番号 |
20K11977
|
|---|
| 研究機関 | 日本福祉大学 |
|---|
研究代表者 |
串田 淳一 日本福祉大学, 健康科学部, 教授 (10558597)
|
|---|
| 研究分担者 |
高濱 徹行 広島市立大学, 情報科学研究科, 教授 (80197194)
|
|---|
| 研究期間 (年度) |
2020-04-01 – 2024-03-31
|
| キーワード | Adversarial Examples / 深層学習 / 進化計算 / Differential Evolution / 複数解探索 |
|---|
| 研究実績の概要 |
本課題では，機械学習モデルに対し誤分類を誘発するAdversarial Examples (AE)を生成する手法を提案する.AEの生成はモデルの内部情報を用いることができないBlack-box環境下で行うものとし，AEの探索方法として進化計算手法であるDifferential Evolution(DE)を用いる.2021年度は，DEのアルゴリズムの一部を変更して一度の探索で複数のAEを発見する方法について検討した．
着目した点は，ニッチング手法を用いた突然変異と目的関数の動的な変更である．ニッチング手法はMultimodal Optimizationにおいて複数解探索を行うための方法である．ここでは，親個体を中心としたサブ集団を形成し子個体を生成する近傍突然変異を導入した．
また，目的関数の動的な変更では，non-targeted attackにおける目的関数景観を多峰性関数と仮定し，AEを発見した(探索済みの)谷に対して，順次ペナルティを与えるようにした．non-targeted attackでは正解クラスの確信度が適応度となるが，この方法では，個体を評価する際に発見済のクラスの確率をペナルティとして適応度に加算する．つまり，探索済みの谷に個体が移動するとペナルティが付与され適応度が悪化することになる．これにより，探索済みの谷の再探索を避け，個体群を未探索の領域へと誘導させる探索の実現を目指した．
実験結果より，上記の変更を加えたDEは代表的な機械学習モデル(DenseNet, ResNet)に対し，１回のnon-targeted attackの実行で複数のAEを獲得できることを確認した．
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
3: やや遅れている
理由
本年度は複数AE探索を多峰関数最適化と捉え，複数解を発見数ためのニッチング手法として近傍度突然変異を用いた．この手法により，DEは個体群をサブ集団に分割しながら複数AEを探索できることを確認した．しかしながら，ある程度頑健なモデルに対しては，AEを探索するために複数画素の摂動が必要となることが分かった．DEを用いたAEの生成手法では摂動数を増やすとそれに応じて探索空間が大きくなる．研究計画では近傍グラフによる種分化を予定していたが，複数の摂動を用いる高次元空間では近傍グラフが適切に生成できず，個体群をサブ集団に分割することが困難であることが分かった．そのため当初予定していた近傍グラフを用いた種分化ではなく，その他のニッチング手法である近傍度突然変異の導入を試みた．
|
| 今後の研究の推進方策 |
近傍グラフを用いた種分化を行うためには，PCAやt-SNEなどを用い探索空間の低次元化を行う必要があると考える．今後はこれらの次元圧縮法についても検討する．また，ニッチング手法だけではなく，目的関数の動的な変更も有効であることが確認できたため，目的関数にペナルティを加えて探索空間を限定していく方法についても並行して研究を進めていく．また，2021年度は，CIFAR-10を学習したDenseNetやResNetに対して，複数AEの探索が可能であることを確認した．そこで次年度以降は，よりクラス数の多いデータセットを用い，探索の成功率や解探索の挙動について分析を行う．
|
| 次年度使用額が生じた理由 |
次年度使用額が生じた理由は，新型コロナウィルスの感染拡大のため，参加を予定していた学会・研究会がオンライン開催となり，計画していた参加費・登壇費および旅費を予定通り使用出来なかったためである．今後，新型コロナウィルスの終息状況に合わせて，使用計画を修正する予定である．具体的には，学術論文の掲載料や英文校正等に使用することを計画している．
|
