データの自動認識に有効なニューラルネットワーク(NN)を用いた深層学習において、その性能を向上させる新たな学習の枠組みを提案した。従来はNNパラメータを学習により直接的に最適化していたが、本提案法ではパラメータに事前モデルを新たに導入し、階層的なパラメータ表現を定式化した。これによりNNパラメータは事前モデルから導出される形式となり、学習は事前モデルのハイパーパラメータ最適化に置き換えられる。このような階層的表現により、過学習等を抑制した頑健かつ適応的な深層学習が可能となった。NNを構成する様々な計算過程(層)に事前モデルを導入する手法を開発することで、自動認識の高精度化を達成した。
|