| 研究課題/領域番号 |
22K12196
|
|---|
| 研究種目 |
基盤研究(C)
|
| 配分区分 | 基金 |
|---|
| 応募区分 | 一般 |
|---|
| 審査区分 |
小区分61040:ソフトコンピューティング関連
|
|---|
| 研究機関 | 鹿児島大学 |
|---|
研究代表者 |
小野 智司 鹿児島大学, 理工学域工学系, 教授 (90363605)
|
|---|
| 研究期間 (年度) |
2022-04-01 – 2025-03-31
|
| 研究課題ステータス |
交付 (2023年度)
|
| 配分額 *注記 |
4,160千円 (直接経費: 3,200千円、間接経費: 960千円)
2024年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2023年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2022年度: 2,340千円 (直接経費: 1,800千円、間接経費: 540千円)
|
|---|
| キーワード | 深層ニューラルネットワーク / 敵対的攻撃 / 敵対的防御 / ハードラベルブラックボックス条件 / 画像認識 / 音声認識 / 敵対的事例 / CMA-ES / 敵対的事例の矯正 / 物体認識 / 深度推定 / 深層学習 / ブラックボックス最適化 / 脆弱性 |
|---|
| 研究開始時の研究の概要 |
深層ニューラルネットワーク（DNN）は，意図的に摂動が加えられた入力（敵対的事例）によって誤作動を起こしてしまうため，近年のDNNの実システムへの普及に伴い，実用上の観点で危険度が高い脆弱性の発見の需要が高まっている．本研究は，危険度が高い脆弱性を，外乱や環境変化の影響を受けにくくDNNの誤動作を継続的に誘発する敵対的事例と考え，学習器が出力するTop-1クラスラベルのみを利用してこれを発見する方式を開発する．
|
| 研究実績の概要 |
本研究は，危険度が高い脆弱性を，外乱や環境変化の影響を受けにくく深層ニューラルネットワークの誤動作を継続的に誘発する敵対的事例と考え，学習器が出力するTop-1クラスラベルのみを利用してこれを発見する方式を開発する．以下では，本年度の実績について，当初の研究計画の主要な研究内容である(a)ハードラベルブラックボックス条件下で危険性の高い敵対的事例を生成する方式の創出，および，(b) 物体認識，音声認識，物体検出，深度推定等のタスクへの応用，の観点から述べる．
(a)のハードラベルブラックボックス条件下において危険度の高い敵対的事例を発見する方式については，昨年度に設計と実装を行った基本アルゴリズムに対して，敵対的事例候補の危険度，すなわち外乱に対する頑健性を検証する方式を組み込んだ方式の設計と検証を行った．本方式は，画像，音声といった学習器の入力の特性に依存せずに，また，対象モデルの内部情報を利用せずにTop-1ラベルのみから脆弱性を検証できる点に利点がある．
(b)の各種タスクの応用については，昨年度と同様に物体認識，音声認識，深度推定タスクを対象とした深層ニューラルネットワークモデルの脆弱性を検証する技術に応用を行ったほか，今年度は画像分類を行うモデルにおいて着目する画像領域を可視化するGrad-CAM等の解釈技術における脆弱性の検証を行う方式を開発した．また，音声を扱う深層ニューラルネットワークに対して実環境下で検証する実機環境最適化方式を応用し，特定の環境において生じる脆弱性を検証できることを確認した．
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
本研究における主要な課題は，(a) ハードラベルブラックボックス条件下で危険性の高い敵対的事例を生成する方式の創出，および，(b) 物体認識，音声認識，物体検出，深度推定等のタスクへの応用である．
(a)については基盤となるアルゴリズムの開発が予定通り進行している． 分散共分散適応型進化戦略アルゴリズムを基本として，ハードラベルブラックボックス条件下で外乱に頑健な敵対的事例を発見できることを示した．敵対的事例を発見する攻撃アルゴリズムに関する研究成果について，進化計算の主要国際会議の1つであるWCCI2024に論文が採択されたほか，実機環境最適化アルゴリズムについて電子情報通信学会英文誌に論文が採択された．
(b)については，各応用タスクを対象として上記(a)の応用を行うソフトウェアの開発を行っている． 特に，画像認識器の解釈器を対象とした敵対的攻撃手法に関する論文が国際会議に採択され，国内の学会発表において1件の賞を受賞した．
さらに，昨年度に提案した(c)敵対的事例の脆弱性に着目することで得られた敵対的事例の矯正方式について国内の学会で発表を行い，1件の賞を受賞した．
以上のような状況であるため，概ね順調に成果をあげていると考える．
|
| 今後の研究の推進方策 |
外乱に頑健な敵対的事例を発見する基本アルゴリズムの性能改善および計算効率の改善に取り組む．
また，物体認識，音声認識タスクで上記方式の有効性の検証を行う．特に，商用クラウドにおける物体認識方式の脆弱性の検証を行う．
|
