| Project/Area Number |
22K12196
|
|---|
| Research Category |
Grant-in-Aid for Scientific Research (C)
|
| Allocation Type | Multi-year Fund |
|---|
| Section | 一般 |
|---|
| Review Section |
Basic Section 61040:Soft computing-related
|
|---|
| Research Institution | Kagoshima University |
|---|
Principal Investigator |
小野 智司 鹿児島大学, 理工学域工学系, 教授 (90363605)
|
|---|
| Project Period (FY) |
2022-04-01 – 2025-03-31
|
| Project Status |
Granted (Fiscal Year 2023)
|
| Budget Amount *help |
¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2024: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
Fiscal Year 2023: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
Fiscal Year 2022: ¥2,340,000 (Direct Cost: ¥1,800,000、Indirect Cost: ¥540,000)
|
|---|
| Keywords | 深層ニューラルネットワーク / 敵対的攻撃 / 敵対的防御 / ハードラベルブラックボックス条件 / 画像認識 / 音声認識 / 敵対的事例 / CMA-ES / 敵対的事例の矯正 / 物体認識 / 深度推定 / 深層学習 / ブラックボックス最適化 / 脆弱性 |
|---|
| Outline of Research at the Start |
深層ニューラルネットワーク（DNN）は，意図的に摂動が加えられた入力（敵対的事例）によって誤作動を起こしてしまうため，近年のDNNの実システムへの普及に伴い，実用上の観点で危険度が高い脆弱性の発見の需要が高まっている．本研究は，危険度が高い脆弱性を，外乱や環境変化の影響を受けにくくDNNの誤動作を継続的に誘発する敵対的事例と考え，学習器が出力するTop-1クラスラベルのみを利用してこれを発見する方式を開発する．
|
| Outline of Annual Research Achievements |
本研究は，危険度が高い脆弱性を，外乱や環境変化の影響を受けにくく深層ニューラルネットワークの誤動作を継続的に誘発する敵対的事例と考え，学習器が出力するTop-1クラスラベルのみを利用してこれを発見する方式を開発する．以下では，本年度の実績について，当初の研究計画の主要な研究内容である(a)ハードラベルブラックボックス条件下で危険性の高い敵対的事例を生成する方式の創出，および，(b) 物体認識，音声認識，物体検出，深度推定等のタスクへの応用，の観点から述べる．
(a)のハードラベルブラックボックス条件下において危険度の高い敵対的事例を発見する方式については，昨年度に設計と実装を行った基本アルゴリズムに対して，敵対的事例候補の危険度，すなわち外乱に対する頑健性を検証する方式を組み込んだ方式の設計と検証を行った．本方式は，画像，音声といった学習器の入力の特性に依存せずに，また，対象モデルの内部情報を利用せずにTop-1ラベルのみから脆弱性を検証できる点に利点がある．
(b)の各種タスクの応用については，昨年度と同様に物体認識，音声認識，深度推定タスクを対象とした深層ニューラルネットワークモデルの脆弱性を検証する技術に応用を行ったほか，今年度は画像分類を行うモデルにおいて着目する画像領域を可視化するGrad-CAM等の解釈技術における脆弱性の検証を行う方式を開発した．また，音声を扱う深層ニューラルネットワークに対して実環境下で検証する実機環境最適化方式を応用し，特定の環境において生じる脆弱性を検証できることを確認した．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究における主要な課題は，(a) ハードラベルブラックボックス条件下で危険性の高い敵対的事例を生成する方式の創出，および，(b) 物体認識，音声認識，物体検出，深度推定等のタスクへの応用である．
(a)については基盤となるアルゴリズムの開発が予定通り進行している． 分散共分散適応型進化戦略アルゴリズムを基本として，ハードラベルブラックボックス条件下で外乱に頑健な敵対的事例を発見できることを示した．敵対的事例を発見する攻撃アルゴリズムに関する研究成果について，進化計算の主要国際会議の1つであるWCCI2024に論文が採択されたほか，実機環境最適化アルゴリズムについて電子情報通信学会英文誌に論文が採択された．
(b)については，各応用タスクを対象として上記(a)の応用を行うソフトウェアの開発を行っている． 特に，画像認識器の解釈器を対象とした敵対的攻撃手法に関する論文が国際会議に採択され，国内の学会発表において1件の賞を受賞した．
さらに，昨年度に提案した(c)敵対的事例の脆弱性に着目することで得られた敵対的事例の矯正方式について国内の学会で発表を行い，1件の賞を受賞した．
以上のような状況であるため，概ね順調に成果をあげていると考える．
|
| Strategy for Future Research Activity |
外乱に頑健な敵対的事例を発見する基本アルゴリズムの性能改善および計算効率の改善に取り組む．
また，物体認識，音声認識タスクで上記方式の有効性の検証を行う．特に，商用クラウドにおける物体認識方式の脆弱性の検証を行う．
|
