本研究では、サポートベクターマシン(SVM)を深層学習で訓練済みの深層ニューラルネットワークから構築する。SVMのための深層準線形カーネルの構築に通してSVMと深層ニューラルネットワークとの間に橋を架け、近年著しく発展できている深層学習技術を活用し、深層カーネルの学習は大規模なデータの場合でも容易に実現できる。一方、深層学習の立場から見れば、訓練済の深層ニューラルネットワークからSVMのカーネルを合成し(転移学習)、このカーネルに基づいた分類器をSVM 最適化(小データ)することによって、小データでも深層学習の実現が可能になる。
|