|
この研究は、ベイズ判別関数を学習し得る3層神経回路網を完成し、それを用いて、隠れマルコフ鎖を推定し得る神経回路網を作成しようとするものである。前者については、われわれは2005年、Neurocomputingに論文を発表しているが、内容は理論のみであった。その後、その理論の実現に向けて研究を続け、昨年度までに、確率分布が簡単な場合にはベイズ分類を実行し得る神経回路網の作成に成功した。本年度は、その結果をもとに、隠れマルコフ鎖推定神経回路網の作成に成功し、所期の目的を細い線で達成した形になった。しかし、前半のベイズ判別神経回路網の限界を引き摺って、この回路網がマルコフ鎖推定に成功するのはオブザーバブルの確率分布が単純な場合に限られており、まだ満足すべき結果ではない。
一般に神経回路網は素子の数が少ない方が、過学習や局所極小などの学習の困難に遭遇する確率は少ないといわれている。われわれも、それを信じて研究を続行し、隠れ層素子の数を、先行研究の約半数に削減しても、回路網はベイズ判別関数近似の能力を保持する事を証明した。それは-つの研究結果ではあったが、なお学習の困難解消には至らず、しかも、その隠れ素子数は必要十分で、さらなる削減は不可能と、われわれ自身で理論的に証明してしまった。素子数削減はわれわれの回路網の学習困難解消に無効と分ったので、神経回路網による関数近似の考え方そのものの再検討を迫られた。その結果、隠れ層素子の自由度を制限すると、素子の数は増加するが学習は容易になると結論された。詳細は間もなくNeural Computationに掲載される。
条件付ながら隠れマルコフ鎖を推定し得る神経回路網を作成し、新しい考え方のアルゴリズムを発見して、隠れマルコフ鎖推定神経回路網の機能の一般化の見通しを得たのが本年度の実績である。
|
