| 研究課題/領域番号 |
20K11977
|
|---|
| 研究種目 |
基盤研究(C)
|
| 配分区分 | 基金 |
|---|
| 応募区分 | 一般 |
|---|
| 審査区分 |
小区分61040:ソフトコンピューティング関連
|
|---|
| 研究機関 | 日本福祉大学 (2021-2023)
広島市立大学 (2020) |
|---|
研究代表者 |
串田 淳一 日本福祉大学, 健康科学部, 教授 (10558597)
|
|---|
| 研究分担者 |
高濱 徹行 広島市立大学, 情報科学研究科, 教授 (80197194)
|
|---|
| 研究期間 (年度) |
2020-04-01 – 2024-03-31
|
| 研究課題ステータス |
完了 (2023年度)
|
| 配分額 *注記 |
3,640千円 (直接経費: 2,800千円、間接経費: 840千円)
2023年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
2022年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円)
2021年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
2020年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
|
|---|
| キーワード | Adversarial Examples / 機械学習 / 進化計算 / Differential Evolution / 複数解探索 / 深層学習 / 最適化 / 多峰性関数最適化 / 制約付き最適化 / Adversarial examples |
|---|
| 研究開始時の研究の概要 |
近年，深層学習は画像認識の分野で画期的な成果を上げている．その一方で，深層学習による画像認識技術は，Adversarial Examples (AE)と呼ばれる攻撃方法に対して脆弱性を持つことが報告されている．そのため，深層学習の実アプリケーションを運用する際には，様々なAEに対する防御方法を用意する必要がある．そこで本課題では生物の進化プロセスをモデル化した最適化アルゴリズムを用い，多様なAEを探索する方法を開発する．開発手法による攻撃を通して深層学習のAEに対する挙動を分析することで，より防御性能の高い深層学習モデルの開発に貢献することができる．
|
| 研究成果の概要 |
Adversarial Examples (AE)は攻撃者によって意図的に機械学習モデルが誤認識を起こすように設計された入力であり，その対策は機械学習モデルを実用化するうえで非常に重要な問題となっている．AEに対する頑健な防御手段を構築するためには，実際に起こりうるような様々な攻撃を徹底的にテストしておく必要がある．そのため，多様なAEパターンを生成するような攻撃方法の開発も重要となる．本課題では進化計算を用いAEを探索する方法に着目し，一度の探索で複数のAEを同時に探索できる攻撃手法を開発した．
|
| 研究成果の学術的意義や社会的意義 |
本課題では，差分進化（DE）を用いた攻撃であるOne pixel attackを基にした攻撃方法を開発した．開発した手法は，AE探索問題における目的関数の多峰性に注目し，目的関数に動的にペナルティを追加することにより，順番に異なるAEを探索することが可能である．この攻撃結果（発見された解の数や種類など）を解析することにより，機械学習モデルのAEに対する防御能力を多角的に評価できる．その結果，より堅牢な機械学習モデルの設計に繋がる重要な知見を得ることが期待される．
|
