|
深層学習の成功は多様な改良の可能性を示している。本研究では尤度比統計量を基礎にして損失関数・ベイズモデルからの改良を企図した。活性化関数としての softmax, ReLU の選択は有効な母数の推測方法の選択と見なすことができる。その上で、これまで高次元母数モデルの推定技法を適用した。
二点での展開を計った。先ず活性化関数を ramp関数と見なして一般化させる点にある。Ramp関数の理解は分野により異なり、spline関数の分野と機械学習で異なる。更に、分布関数の裾の重さの視点を加えた。別の一点は、損失関数についてである。深層学習は分類問題を多項分布の出現確率の推定に還元させるからである。
|
