2020 Fiscal Year Annual Research Report
Deep learning security and privacy focused on human-machine recognition gap
| Project/Area Number |
19H04164
|
|---|
| Research Institution | University of Tsukuba |
|---|
Principal Investigator |
佐久間 淳 筑波大学, システム情報系, 教授 (90376963)
|
|---|
| Project Period (FY) |
2019-04-01 – 2023-03-31
|
| Keywords | 機械学習 / 人工知能 / 敵対的学習 / ドメイン汎化 |
|---|
| Outline of Annual Research Achievements |
複数の訓練ドメインを利用して、未知のドメインに汎化するモデルを学習することを目的としたドメイン汎化に取り組んだ。具体的には、モデルの領域汎化能力を向上させるために、敵対的学習によって獲得した「分類が難しい」ドメインで学習データを合成し、増強することを目的とした敵対的データ増強の方法を提案した。この研究では、敵対的ドメイン強化と呼ばれる、新しい敵対的データ補強手法を提案した。これは、画像間の翻訳モデルを用いて、学習データと意味的に異なる、同時に分類が困難な新規ドメインの分布を求めるものである。
従来の研究では、（１）意味的に多様でない分類困難なサンプルしか与えることができなかったため、汎化性能が高くなかった、（２）他のデータ増強手法との組み合わせに制限があった、などの問題点があった。我々は、敵対的データ増強と生成モデルベースの手法の両方の利点を取り入れ、生成モデルに基づき最悪ケース分布を活用することによって、多様な分類困難サンプルを精製でき、かつ、他のドメイン汎化アルゴリズムと容易に組み合わせることができる方法を提案した。提案法を実現するためには、意味的に異なる領域を表す分布からサンプルを抽出することができる生成モデルが必要である。また、意味的に異なる複数の領域に対して、最悪の場合の分布を求めるために、データ生成の分散を制御する必要がある。そこで、我々は、複数の学習用データに対して、意味的に異なるスタイルの混合を指定して画像を生成する条件付き画像間変換モデルも合わせて提案した。この生成モデルを用いることで、提案法によって生成される、意味的に異なるサンプルによる敵対的データ補強に基づく訓練が、画像識別機においてより優れたドメイン汎化性能をもたらすことを、複数のデータセットを用いた性能評価実験によって示すことができた。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
実験の結果、提案法は、複数の学習領域を持つ3つのドメイン汎化タスクにおいて、ほとんどのケースで既存のデータ強化手法を上回る結果を示した。さらに、ablation studyから、提案する敵対的学習戦略は、「分類が難しい」ドメインコードの分布を学習することができ、優れたドメイン汎化能力を達成するのに役立つことが示された。
|
| Strategy for Future Research Activity |
ドメイン汎化はソースドメインからのラベル付きデータとターゲットドメインからのラベルなしデータを得ることができ、これらのデータは全て同じタスクに関連していると仮定していた。しかし、プライバシー保護の観点から、同じタスクに関連するラベルのない対象データを用意することが不可能であったり、コストがかかったりする場合がある。このような状況に対応するためにzero-shot domain adaptation（ZSDA)に取り組む。ZSDAでは、ターゲットドメインにおいて、目標とするタスクとは異なるタスクのデータのみが取得可能であり、目標タスクに関連するラベル付きデータが取得できない状況を想定し、ターゲットドメインにおける目標タスクの予測を実現することを目標とする。
|
