確率的情報処理と情報統計力学理論を用いて深層学習モデルに対する数学的・情報理論的背景の定式化と,具体的な高効率計算アルゴリズムの開発を目指す.当該研究期間内で得た主な成果は以下のようなものである.(1)深層ボルツマンマシンにおける事前学習の数理的背景を明らかにした.(2)制限ボルツマンマシンに対する新しい一般的な数学定理を得た.この定理は,確率推論において平均場近似を利用する場合,モデル全体に統計操作をするよりも一部の変数(層)を周辺化操作で消去してから操作した方がより良い結果を得られるということを保証する.(3)深層システムに対する高速なノイズ耐性検査アルゴリズムを開発した.
|