研究実績の概要 |
ニューラルネットワークには、新しい知識を学習すると、過去に獲得した知識を極度に忘却する、破滅的忘却の問題が存在する。本問題に関する既存研究は、直前に学習した知識をダイレクトに保持するものがあるが、これでは直前に学習した数個の知識しか保持できず、ある時点を境にそれより過去に獲得した知識を極度に忘却することに変わりはない。そのため、破滅的忘却を軽減する新たなニューラルネットワークの設計手法が求められる。 研究の方法として、モジュールの自発的な出現につながることが示唆されているMVG(Modularly Varying Goal)を応用することにより、破滅的忘却を軽減するニューラルネットワークを設計する。既存研究では、モジュールな方式で変化する環境下(Modularly Varying Goal, MVG)での進化が、モジュール性の自発的な出現につながることが言われている。ここでのモジュールな方式で変化する環境とは、すなわち、いくつかのゴールが繰り返し切替わる状態であり、これらのゴールは、互いに異なるものの、同じサブゴールの組み合わせから成るものである。 本研究では、破滅的忘却の軽減に対して、MVG(Modularly Varying Goal)が有用であることを明らかにした。具体的には、MVGでニューラルネットワークを進化させることで、少しのリンクの張り替えや重みの書き換えで、複数の学習したタスクに対して高い適応度が得られることを明らかにした。また、MVGでニューラルネットワークを進化させることで、情報処理に有用な特定のモチーフの数が相対的に多く得られることを明らかにした。さらに、学習するタスクの数が増加するにつれて、これらのモチーフの数が相対的により多く得られることを明らかにした。
|