| 研究概要 |
フィードフォワード型の層状ニューラルネットワークの学習則を導出する際に,カルバック測度を用いることでネットワークの能力が格段に向上することはすでに報告されている。従来の自乗誤差を評価関数とするものと違い,このネットワークはサイズを大きくすることで,単調に学習能力が向上すると言う特徴がある。この特徴から,ネットワークサイズを大きくすることで,学習効率を高め,容易に学習度合を調整することが出来る。このネットワークの特長を活かし同じネットワークの学習の度合いを調整することで,学習データの曖昧さを許容しない正確な識別能力と,欠損や雑音が混入された曖昧さを伴ったデータや未学習の同種のデータの認識を行う汎化能力という,一見相反する2つの能力に優れたネットワークを構築することを目的に行ってきた。
これまで,ELT-3のデータベースに収められている200人分の手書き数字を用いた学習問題を検討してきた。その学習の度合いによる認識率の変化,及びネットワーク損傷時の回復能力についての考察を行った。入力層、中間層、出力層の3層構造のネットワークにおいて、中間層のニューロン数64から8192個まで増加させてその学習効率を検討したが、終了条件を満足するのに要する学習回数は中間層の増加に伴って単調に減少し、安定した学習傾向を示した。また、識別及び認識能力は中聞層のニューロン数が増加することで、かなり能力が向上することが確認された。期待したほど十分な汎化能力は得られなかったが、単純にサイズを大きくすることで、ほぼ100%の識別率と95%以上の未学習データに対する認識能力を容易に得ることができることが示された。
以上のことより、カルバック測度をエラー測度とすることで、問題に適したネットワークサイズに捉われることなく安定した学習が可能であるために、様々な問題に応用可能であり、かつ認識能力や損傷に対する耐久性に優れたニューラルネットワークの構築が容易に実現できることが示さた。これらの結果は、電気情報通信学会、電気関係学会東北支部連合大会、情報処理学会研究会などで報告された。
|
