動的な素子を用いた連想記憶モデルの構成と解析

Research Project

Project/Area Number	08279224
Research Category	Grant-in-Aid for Scientific Research on Priority Areas
Allocation Type	Single-year Grants
Research Institution	Kyoto University
Principal Investigator	青柳富詩生京都大学, 工学研究科, 助手 (90252486)
Project Period (FY)	1996
Project Status	Completed (Fiscal Year 1996)
Budget Amount *help	¥1,500,000 (Direct Cost: ¥1,500,000) Fiscal Year 1996: ¥1,500,000 (Direct Cost: ¥1,500,000)
Keywords	ニューラルネットワーク / 振動子 / テンポラルコーディング
Research Abstract	近年の神経生理学の実験がきっかけとなって、ニューロンの発火の相関(同期・非同期)などに情報をコードすることが、ネットワークの情報処理の能力を質的に高めることが出来るのではないかと、関心を集めている。一方、周期的に発火しているニューロンが互いに弱く相互作用している場合、そのダイナミクスは位相という発火のタイミングを表現する変数により記述できることが知られている。この点を踏まえて、本研究では振動子ニューラルネットの諸性質を以下に述べる2つの点から理論的に研究した。 1.振動子ニューラルネットの結合を破壊したときの耐性主としてシナプス結合を一定の割合でランダムに結合の対称性を保ったまま切ったとき、その記憶容量や想起したパターンの質にどうのような影響があるか、理論的に調べた。結果として、70%程結合を切っても連想記憶の能力はそれ程劣化しない事がわかった。また、簡単な数値実験はこの解析的な結果を支持している。最後にHopfieldモデルの場合を述べると、想起したパターンの質の変化は大差ないが、臨界記憶容量はほぼ直線的に0へ減少する。意外な事に、振動子の場合の方が結合を切ったときの想起能力の低下は少ない。また、非対称性を多少入れても、結果はそう変化しないことを数値実験により確認した。 2.振動子ニューラルネットの想起過程のダイナミクス初期状態からパターンを想起する過程を、ある少数のマクロな量を用いて記述した。例えば、第一近似ではパターンのオーバーラップと膜電位に加わるノイズの分散の2変数で近似的にダイナミクスを記述した。これにより、パターンを想起することが可能な臨界初期オーバーラップを理論的に求めることに成功した。自己想起型の連想記憶では、記憶容量はレプリカ法の結果とほぼ一致し、引き込み領域もかなり広いことが判明した。ただし、この場合はノイズの時間的な相関がかなり重要であり、より高次の近似(4次のオーダー)が必要であった。相互想起型の連想記憶においては、記憶容量が0.189であり、引き込み領域も非常に広いことがわかった。特に、相互想起の方が自己想起よりも記憶容量が5倍近くになっている点が興味深い。(従来モデルは2倍)