2019 Fiscal Year Annual Research Report
Deep Quasi-Linear SVM Based on Deep Neural Network and Its Applications
| Project/Area Number |
17K06506
|
|---|
| Research Institution | Waseda University |
|---|
Principal Investigator |
古月 敬之 早稲田大学, 理工学術院(情報生産システム研究科・センター), 教授 (50294905)
|
|---|
| Project Period (FY) |
2017-04-01 – 2020-03-31
|
| Keywords | 深層ニューラルネットワーク / サポートベクターマシン / 深層学習 / 機械学習 / パターン認識 |
|---|
| Outline of Annual Research Achievements |
本研究では、回帰または分類のための利用しやすい線形構造を有する準線形サポートベクターマシン（SVM)の構成および深層ニューラルネットワークによる準線形カーネルの構築、さらに画像などのデータに直接適用できる高性能深層準線形SVM分類器の開発を行う。目指している深層準線形SVMでは、深層準線形カーネルを持っており、深層ニューラルネットワークにより深層準線形カーネルを深層学習で合成する。このように、訓練済の深層ニューラルネットワークからSVMのカーネル関数を合成し（転移学習）、このカーネルに基づいた分類器をSVM最適化（小データ）することによって、小データでも深層学習の実現が可能になる。本年度では、これまで開発した深層準線形SVMシステムの応用展開の研究を中心にして、深層準線形SVMを高速化し高性能な非線形分類器の構築を行い、画像、音声とテキストやDNA・タンパク質配列の分類・識別などの応用を行った。具体的に、
１）深層準線形SVMの一つの特徴が小データでも深層学習を実現できるが、その反面SVMの計算複雑さはo(N^2～3）になるので、高次元・大規模なデータに適用するため、SVMの高速化が必要になる。そこで、小データに基づいたSVM近似分類器を導入しそれに基づいたサポートベクターになる確率高いサンプルを検出し、訓練データ再構成技術を開発し、深層準線形SVMの高速化技術の開発を行った。
２）画像、音声、テキストや遺伝子機能予測のための高性能な知的分類器の構築法の開発を行い、異常検知などの応用研究を行った。
さらに、深層準線形SVMの構成と応用に関する成果を取りまとめ、成果の発表を行った。
|
