Adversarial design in deep learning
| Project/Area Number |
23K24914
|
|---|
| Project/Area Number (Other) |
22H03658 (2022-2023)
|
|---|
| Research Category |
Grant-in-Aid for Scientific Research (B)
|
| Allocation Type | Multi-year Fund (2024)
Single-year Grants (2022-2023) |
|---|
| Section | 一般 |
|---|
| Review Section |
Basic Section 61040:Soft computing-related
|
|---|
| Research Institution | Chiba University |
|---|
Principal Investigator |
川本 一彦 千葉大学, 大学院情報学研究院, 教授 (30345376)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
計良 宥志 千葉大学, 大学院情報学研究院, 助教 (00887705)
|
|---|
| Project Period (FY) |
2022-04-01 – 2026-03-31
|
| Project Status |
Granted (Fiscal Year 2024)
|
| Budget Amount *help |
¥17,160,000 (Direct Cost: ¥13,200,000、Indirect Cost: ¥3,960,000)
Fiscal Year 2025: ¥2,730,000 (Direct Cost: ¥2,100,000、Indirect Cost: ¥630,000)
Fiscal Year 2024: ¥3,250,000 (Direct Cost: ¥2,500,000、Indirect Cost: ¥750,000)
Fiscal Year 2023: ¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000)
Fiscal Year 2022: ¥6,500,000 (Direct Cost: ¥5,000,000、Indirect Cost: ¥1,500,000)
|
|---|
| Keywords | 敵対的攻撃 / 深層学習 / 深層強化学習 / ロバストシステム |
|---|
| Outline of Research at the Start |
本研究では，攻撃や外乱に対して深層学習モデルをロバストにするための技術を開発する．とくに，画像・動画認識タスクと深層強化学習によるロボット制御タスクに適用する．画像・動画では，深層学習モデルのロバスト性評価やフーリエ解析を通じて，弱教師有り学習，説明可能AI，マルチモーダル学習への展開を図る．ロボット制御では、多脚ロボットの脆弱性を検証し，オフライン強化学習への展開を含む新たな取り組みでロバスト性を高める．
|
| Outline of Annual Research Achievements |
現在までに「敵対的デザイン」にために、深層学習システムおよび深層強化学習システムへの敵対的攻撃に対する脆弱性について検証した。概要は次の通りである。
深層学習の画像・行動認識システムにおいて、敵対的攻撃の脆弱性を検証した。（１）モデルの入力変数間の関係に基づく敵対的転移性の仮説を立て、分析を行い、関連性を発見した。（２）スケルトンベースの行動認識に対して、スケルトンの長さを変えるだけで攻撃できる手法を開発し、敵対的訓練でロバスト性と正確さが向上することを示した。（３）敵対的画像の振幅と位相のスペクトルが畳み込みニューラルネットワーク（CNN）分類器の頑健性に及ぼす影響を調査することで、画像摂動に対するCNNの脆弱性を検証した。敵対的画像の振幅スペクトルとクリーン画像の位相スペクトルを組み合わせた画像を用いた訓練により、CNN分類器が一般的な頑健性を持つことを示した。
深層強化学習を用いた歩行ロボットの脆弱性評価について、以下の3つの敵対的攻撃を検証した。（１）部品形状に対する攻撃では、差分進化手法を開発し、OpenAI Gymで3種類のロボットを実験して脆弱な形状を特定した。（２）関節部への攻撃においても、差分進化手法を用いてトルク信号への摂動攻撃が4足歩行ロボットに可能であることを実証した。（３）不整地での歩行に対する脆弱性を評価し、荒い地形での訓練によって不整地での歩行能力が向上することが確認された。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
敵対的デザインでは、深層システムの性能を劣化させる敵対的な摂動を逆に活用し、深層システムをロバストにする方法論である。そのために、まず深層システムに対する敵対的な摂動を発見することが必要である。本年度では、画像・行動認識システムおよび深層強化学習に基づく歩行ロボット制御システムに対する敵対的な摂動を発見し、その脆弱性を実験的に評価している。さらに、脆弱性からシステムデザインに発展させるために、ゲーム理論の相互作用値を用いた脆弱性の解析、敵対的訓練を用いたロバスト性の検証もスタートしている。以上の進捗は、当初の計画通りであり、本研究は順調に進展している。
|
| Strategy for Future Research Activity |
研究は順調に進展しており、今後も同様に研究を推進する。とくに、次年度では、深層システムへの敵対的攻撃だけでなく、ランダムノイズなどの普遍的摂動に対する脆弱性を検証しつつ，それらに対してロバストなシステムになるための方法について研究する。
|
Report
(1 results)
Research Products
(14 results)
