2022 Fiscal Year Annual Research Report
Adversarial design in deep learning
| Project/Area Number |
22H03658
|
|---|
| Allocation Type | Single-year Grants |
|---|
| Research Institution | Chiba University |
|---|
Principal Investigator |
川本 一彦 千葉大学, 大学院工学研究院, 教授 (30345376)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
計良 宥志 千葉大学, 大学院工学研究院, 助教 (00887705)
|
|---|
| Project Period (FY) |
2022-04-01 – 2026-03-31
|
| Keywords | 敵対的攻撃 / 深層学習 / 深層強化学習 / ロバストシステム |
|---|
| Outline of Annual Research Achievements |
現在までに「敵対的デザイン」にために、深層学習システムおよび深層強化学習システムへの敵対的攻撃に対する脆弱性について検証した。概要は次の通りである。
深層学習の画像・行動認識システムにおいて、敵対的攻撃の脆弱性を検証した。（１）モデルの入力変数間の関係に基づく敵対的転移性の仮説を立て、分析を行い、関連性を発見した。（２）スケルトンベースの行動認識に対して、スケルトンの長さを変えるだけで攻撃できる手法を開発し、敵対的訓練でロバスト性と正確さが向上することを示した。（３）敵対的画像の振幅と位相のスペクトルが畳み込みニューラルネットワーク（CNN）分類器の頑健性に及ぼす影響を調査することで、画像摂動に対するCNNの脆弱性を検証した。敵対的画像の振幅スペクトルとクリーン画像の位相スペクトルを組み合わせた画像を用いた訓練により、CNN分類器が一般的な頑健性を持つことを示した。
深層強化学習を用いた歩行ロボットの脆弱性評価について、以下の3つの敵対的攻撃を検証した。（１）部品形状に対する攻撃では、差分進化手法を開発し、OpenAI Gymで3種類のロボットを実験して脆弱な形状を特定した。（２）関節部への攻撃においても、差分進化手法を用いてトルク信号への摂動攻撃が4足歩行ロボットに可能であることを実証した。（３）不整地での歩行に対する脆弱性を評価し、荒い地形での訓練によって不整地での歩行能力が向上することが確認された。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
敵対的デザインでは、深層システムの性能を劣化させる敵対的な摂動を逆に活用し、深層システムをロバストにする方法論である。そのために、まず深層システムに対する敵対的な摂動を発見することが必要である。本年度では、画像・行動認識システムおよび深層強化学習に基づく歩行ロボット制御システムに対する敵対的な摂動を発見し、その脆弱性を実験的に評価している。さらに、脆弱性からシステムデザインに発展させるために、ゲーム理論の相互作用値を用いた脆弱性の解析、敵対的訓練を用いたロバスト性の検証もスタートしている。以上の進捗は、当初の計画通りであり、本研究は順調に進展している。
|
| Strategy for Future Research Activity |
研究は順調に進展しており、今後も同様に研究を推進する。とくに、次年度では、深層システムへの敵対的攻撃だけでなく、ランダムノイズなどの普遍的摂動に対する脆弱性を検証しつつ，それらに対してロバストなシステムになるための方法について研究する。
|
Research Products
(14 results)
