| 研究概要 |
本研究では相関の強い確率分布の学習における確率ニューロンからなる層状フィードフォワードネットワークの能力を体系的に研究し,学習能力を向上し,実用問題への応用の可能性を開くことを目的としたが,研究成果の概要は以下の通りである.
1)学習係数の自動調整
本研究で用いる確率的ニューロンからなるフィードフォワードモデルは優れたスケーラビリティを示すことが多いが,逆XOR問題の学習ではニューロン数が大きくなると学習が振動する現象が多く見られた。そこで,前後する学習過程におけるパラメータの変化の内積から学習係数を自動調整することにより,大きなニューロン数に対しても学習が改善され,実用へ近づいた.
2)グラフィックシミュレータの作成
逆XOR問題を学習可能なネットワークの理論的に予測された最小構造は入力層,中間層,出力層のニューロン数が(2-4-2)である.ところが,非対称な確率分布の逆XOR問題に対する数値計算の結果(1-1-2)構造のネットワークでも学習が可能であることが分かった.そこで,学習過程を追いながら,シナプス結合の強さと閾値の変化やニューロン状態のスナップショットを表示や,ある時間幅での各ニューロンの出力の平均値をグラフィカルに表示して,各ニューロンの学習の様子と役割を解明するためのグラフィカルシミュレータを作成した.これにより,各ニューロンがどのように学習に寄与しているのかを解明することが出来るようになった.
|
