| 研究課題/領域番号 |
20K11977
|
|---|
| 研究種目 |
基盤研究(C)
|
| 配分区分 | 基金 |
|---|
| 応募区分 | 一般 |
|---|
| 審査区分 |
小区分61040:ソフトコンピューティング関連
|
|---|
| 研究機関 | 日本福祉大学 (2021-2023)
広島市立大学 (2020) |
|---|
研究代表者 |
串田 淳一 日本福祉大学, 健康科学部, 教授 (10558597)
|
|---|
| 研究分担者 |
高濱 徹行 広島市立大学, 情報科学研究科, 教授 (80197194)
|
|---|
| 研究期間 (年度) |
2020-04-01 – 2024-03-31
|
| キーワード | Adversarial Examples / 機械学習 / 進化計算 / Differential Evolution / 複数解探索 |
|---|
| 研究成果の概要 |
Adversarial Examples (AE)は攻撃者によって意図的に機械学習モデルが誤認識を起こすように設計された入力であり，その対策は機械学習モデルを実用化するうえで非常に重要な問題となっている．AEに対する頑健な防御手段を構築するためには，実際に起こりうるような様々な攻撃を徹底的にテストしておく必要がある．そのため，多様なAEパターンを生成するような攻撃方法の開発も重要となる．本課題では進化計算を用いAEを探索する方法に着目し，一度の探索で複数のAEを同時に探索できる攻撃手法を開発した．
|
| 自由記述の分野 |
進化計算
|
| 研究成果の学術的意義や社会的意義 |
本課題では，差分進化（DE）を用いた攻撃であるOne pixel attackを基にした攻撃方法を開発した．開発した手法は，AE探索問題における目的関数の多峰性に注目し，目的関数に動的にペナルティを追加することにより，順番に異なるAEを探索することが可能である．この攻撃結果（発見された解の数や種類など）を解析することにより，機械学習モデルのAEに対する防御能力を多角的に評価できる．その結果，より堅牢な機械学習モデルの設計に繋がる重要な知見を得ることが期待される．
|
