|
主に次の2つのテーマに関して研究を行なった。
i)パーセプトロン学習における解空間の連結性
学習に伴い解空間の連結性が失われる簡単なパーセプトロン型モデルを用いて、その幾何学的な性質が例題数の増加とともにどのように変化するかを調べた。その結果、マルチフラクタルの解析手法と類似の方法をレプリカ法に適用することにより、ある種の熱力学極限に対して解空間の飛び地の個数を定量的に評価することに成功した。
ii)多層パーセプトロンのオンライン学習
解を探索するための時間的コストも考慮したより現実的な学習を論じるため多層パーセプトロンのオンライン学習について研究を行なった。具体的なネットワークとしてはParity Machineを取り上げ、Least Action Algorithmを用いた学習を解析的・数値的に調べた。その結果、ある種の熱力学極限において学習時のノイズレベルを臨界値以上にすると全く学習ができなくなるという一種の相転移現象が生じることが明らかになった。
|
