これまでの研究で,生物学的に妥当な学習法であるHebb則を用いた大脳皮質モデルに,擬似リハーサルを導入することで破局的忘却の抑制ができることがわかっている.本年度の研究では,擬似リハーサルに用いる擬似パターンの数や中間層のニューロン数,中間層数などのパラメータに対する破局的忘却の抑制度合いについて詳細に調査を行った.その結果,擬似パターン数を増やすほど破局的忘却が抑制されるが増やし過ぎると追加学習自体が困難になること,複数の学習データを追加学習させると初頭効果と親近効果が見られること,中間ニューロン数や中間層数が多い表現能力の高いネットワークでは相応の擬似パターン数を用いる必要があり少な過ぎると忘却が起きやすいこと,擬似リハーサルは記憶課題だけでなく大規模な認識課題でも破局的忘却の抑制に寄与することなどを明らかにするとともに,これらのいくつかについてはさらにその原因の調査も行った.一方,従来から,学習率を小さく設定し,ゆっくり学習すると破局的忘却が起こりにくいと言われてきたが,本研究で構築した大脳皮質モデルでもこの現象が起こることを確認し,またその理由について考察を行った.さらに,破局的忘却をより抑制するために,ラットの脳で確認されているシナプスの保護の機構を模倣した,重みの重要度による正則化手法を大脳皮質モデルの学習に導入した.計算機実験の結果,この手法を擬似リハーサルと組み合わせることで従来よりも破局的忘却が抑制できることがわかった.
|