研究概要 |
本研究では,McCoulloch-Pittsの神経細胞モデルを用いた動的ニューラルネットワークによって,大規模な連想記憶を実現するための構成理論について考察した.このため,まずMcCoulloch-Pittsモデルによる動的ニューラルネットワークに対して (1)与えられた記憶すべき情報(ベクトル)を安定平衡解に指定し,かつ (2)これらの安定平衡解の引き込み領域をできるだけ広くする ために,ネットワークを特徴づける結合係数行列としきい値ベクトルをどのように構成するかという連想記憶の基本問題について,システム理論的な立場から考察した.次に大規模なネットワークを構成するためのユニットとしてのモジュールニューラルネットワークと呼ばれる特別な構造をもつネットワークを導入し,その構成理論を考察した.その結果,次のようないくつかの重要な成果が得られた. (1)与えられた記憶すべきベクトルに対して,上の条件(1)と(2)の実現を評価するための評価関数を導入し,これを最小にするような結合係数行列を求めた.この最適な結合係数行列は,1つのパラメータを含み,この値を零に近づけると,広く知られている直交射影法で求めた行列に収束することが示されました.このため,このように結合係数行列を求める方法を一般化直交射影法と名付けた. (2)与えられた記憶すべきベクトルに対して,上の条件(1)を満たすような結合係数行列をもつネットワーク(これを入出力層と呼ぶ)が構成されているとする.このとき,これに新たに隠れ層(または結合層)と呼ばれるニューロン層を付加して得られるネットワークをモジュールニューラルネットワークと呼ぶことにする.入出力層と隠れ層のニューロン相互を適当に結合することによって,各記憶すべきベクトル(安定平衡解)の引き込み領域は可能な限り拡大される(すなわち,上の条件(2)を満たす)ことができることが示された. (3)多くのモジュールニューラルネットワークの隠れ層(すなわち,結合層)を結合して大規模なネットワークを構成する方法についてもいくつかの成果を得た.
|