| Project/Area Number |
20K23341
|
|---|
| Research Category |
Grant-in-Aid for Research Activity Start-up
|
| Allocation Type | Multi-year Fund |
|---|
| Review Section |
1002:Human informatics, applied informatics and related fields
|
|---|
| Research Institution | Chiba University (2021)
The University of Tokyo (2020) |
|---|
Principal Investigator |
Kera Hiroshi 千葉大学, 大学院工学研究院, 助教 (00887705)
|
|---|
| Project Period (FY) |
2020-09-11 – 2022-03-31
|
| Project Status |
Completed (Fiscal Year 2021)
|
| Budget Amount *help |
¥2,860,000 (Direct Cost: ¥2,200,000、Indirect Cost: ¥660,000)
Fiscal Year 2021: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
Fiscal Year 2020: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
|
|---|
| Keywords | 深層学習 / 敵対的攻撃 / 敵対的転移性 / ドメイン適応 / 計算代数幾何 / 消失イデアル / 近似計算代数幾何 |
|---|
| Outline of Research at the Start |
Deep Neural Networksに代表される深層学習モデルは現代の新たな学習モデルであり，様々な応用で目覚ましい成果を上げている．このモデルは入力に対し繰り返し線形演算と非線形演算を適用する形で構成され非常に表現能力が高い．しかし，なぜ，そしてどのくらい表現能力が高いのか，この複雑なモデルをなぜ効率よく最適化できるのかなど，様々な理論的性質が未だ明らかになっていない．本研究では，計算代数幾何という新たな視点でこれらの解明に取り組む．また理論面のみならず，近年発展した消失イデアルの近似基底計算に立脚した新たな深層学習モデルを設計し，精度とデータの性質に関する関係を定式化する．
|
| Outline of Final Research Achievements |
Deep learning models are known for their high expressive power. However, their behavior can be significantly altered by small perturbations in the input, which poses severe concerns in reliability. We have achieved two main results that mitigate and handle such small malicious perturbations. First, we showed the existence of architecture of deep learning models that is robust against malicious perturbations that adversely affect other models. We also showed a new application of the malicious perturbations in the domain adaptation of object recognition. Both papers have been accepted by an international journal, IEEE Access.
|
| Academic Significance and Societal Importance of the Research Achievements |
本研究では，敵対的攻撃から深層学習モデルを守るメカニズムをモデル構造という新たな観点から分析し，また敵対的攻撃をドメイン適応タスクでの精度向上へと繋げる新たな応用を示した．前者は学術的には深層学習で学習される関数の特性に関わり，統計的・幾何的理解が求められており，また産業的にも人工知能システムの信頼性に深く関わる問題である．後者は敵対的攻撃の手法を頑健性向上でなく精度向上へ活用している．従来は頑健性と精度にはある種のトレードオフが存在していたが，ドメイン適応というタスクでこれを回避できた点が興味深い．これらの研究を通して，深層学習の関数特性に関する基礎的・応用的貢献が行えたと考える．
|
