2023 Fiscal Year Research-status Report
危険度が高い敵対的事例をハードラベルブラックボックス条件下で発見する最適化法
| Project/Area Number |
22K12196
|
|---|
| Research Institution | Kagoshima University |
|---|
Principal Investigator |
小野 智司 鹿児島大学, 理工学域工学系, 教授 (90363605)
|
|---|
| Project Period (FY) |
2022-04-01 – 2025-03-31
|
| Keywords | 深層ニューラルネットワーク / 敵対的攻撃 / 敵対的防御 / ハードラベルブラックボックス条件 / 画像認識 / 音声認識 |
|---|
| Outline of Annual Research Achievements |
本研究は，危険度が高い脆弱性を，外乱や環境変化の影響を受けにくく深層ニューラルネットワークの誤動作を継続的に誘発する敵対的事例と考え，学習器が出力するTop-1クラスラベルのみを利用してこれを発見する方式を開発する．以下では，本年度の実績について，当初の研究計画の主要な研究内容である(a)ハードラベルブラックボックス条件下で危険性の高い敵対的事例を生成する方式の創出，および，(b) 物体認識，音声認識，物体検出，深度推定等のタスクへの応用，の観点から述べる．
(a)のハードラベルブラックボックス条件下において危険度の高い敵対的事例を発見する方式については，昨年度に設計と実装を行った基本アルゴリズムに対して，敵対的事例候補の危険度，すなわち外乱に対する頑健性を検証する方式を組み込んだ方式の設計と検証を行った．本方式は，画像，音声といった学習器の入力の特性に依存せずに，また，対象モデルの内部情報を利用せずにTop-1ラベルのみから脆弱性を検証できる点に利点がある．
(b)の各種タスクの応用については，昨年度と同様に物体認識，音声認識，深度推定タスクを対象とした深層ニューラルネットワークモデルの脆弱性を検証する技術に応用を行ったほか，今年度は画像分類を行うモデルにおいて着目する画像領域を可視化するGrad-CAM等の解釈技術における脆弱性の検証を行う方式を開発した．また，音声を扱う深層ニューラルネットワークに対して実環境下で検証する実機環境最適化方式を応用し，特定の環境において生じる脆弱性を検証できることを確認した．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究における主要な課題は，(a) ハードラベルブラックボックス条件下で危険性の高い敵対的事例を生成する方式の創出，および，(b) 物体認識，音声認識，物体検出，深度推定等のタスクへの応用である．
(a)については基盤となるアルゴリズムの開発が予定通り進行している． 分散共分散適応型進化戦略アルゴリズムを基本として，ハードラベルブラックボックス条件下で外乱に頑健な敵対的事例を発見できることを示した．敵対的事例を発見する攻撃アルゴリズムに関する研究成果について，進化計算の主要国際会議の1つであるWCCI2024に論文が採択されたほか，実機環境最適化アルゴリズムについて電子情報通信学会英文誌に論文が採択された．
(b)については，各応用タスクを対象として上記(a)の応用を行うソフトウェアの開発を行っている． 特に，画像認識器の解釈器を対象とした敵対的攻撃手法に関する論文が国際会議に採択され，国内の学会発表において1件の賞を受賞した．
さらに，昨年度に提案した(c)敵対的事例の脆弱性に着目することで得られた敵対的事例の矯正方式について国内の学会で発表を行い，1件の賞を受賞した．
以上のような状況であるため，概ね順調に成果をあげていると考える．
|
| Strategy for Future Research Activity |
外乱に頑健な敵対的事例を発見する基本アルゴリズムの性能改善および計算効率の改善に取り組む．
また，物体認識，音声認識タスクで上記方式の有効性の検証を行う．特に，商用クラウドにおける物体認識方式の脆弱性の検証を行う．
|
| Causes of Carryover |
論文の採択状況，実験設備の価格の変化等の理由により，交付決定時の計画から変化が生じ，次年度使用額が生じた．
|
