1993 Fiscal Year Annual Research Report
非線形多自由度散逸力学系の統計力学と神経回路網理論
| Project/Area Number |
05836009
|
|---|
| Research Institution | Tokyo Institute of Technology |
|---|
Principal Investigator |
椎野 正寿 東京工業大学, 理学部, 助手 (60134813)
|
|---|
| Keywords | アナログニューラルネット / SCSNA / 非単調伝達関数 / スーパーリトリーバル相 / 0-1型伝達関数 / マックスウェル則 / 局所場分布 / 記憶容量増大 |
|---|
| Research Abstract |
ニューロンの入出力関係を表わす伝達関数で特徴づけられるアナログニューラルネットの連想記憶モデルは、ニューロン数N→∞の極限で、記憶容量等の静的性質や動的特性を調べる場合、広い意味の統計力学的アプローチが要求される。特に伝達関数が非単調であるとすると相互作用が対称であってもリヤプノフ関数が存在しないことになり、従来の、すなわち狭義の統計力学の手法は用いることができない。そのような場合のニューラルネットの記憶容量を解析する目的で独自に開発したシグナルノイズ解析(SCSNA)の方法は、レプリカ理論とは全く別のコンセプトに基づくもので、ニューロンの局所場中に現れるノイズに対してくり込みを行なうことにより局所場をシグナルとノイズとにシステマティックに分離してリトリーバル相を記述するオーダーパラメータ方程式を導出するものである。
くり込みにより現れる「出力比例項」のため、急激な下降部分を有する非単調伝達関数に対しては「マックスウェル則」の作用によりノイズが凝縮して誤差のない完全想起の可能になるスーパーリトリーバル相が出現することがわかり、その性質や出現の条件等の詳しい解析を行なうことができた。その結果、伝達関数が奇関数である場合に限らず、正値性の0-1型をとる場合にもスーパーリトリーバル相が存在可能であることが判明した。
その他、SCSNAを振動子ニューラルネットや競合性のあるニューラルネットの場合に適用して記憶容量の解析を行なうことのできることや、伝達関数の非単調性を増大させると、動的な現象すなわち周期振動や非周期振動が現れてバラエティーに富んだ情報処理の可能性がもたらされることもわかった。
|
-
[Publications] M.Shiino: "Onset of“super retrieval phase"and enhancement of the storage capacity in neural networks of nonmonotonic neurons" J.Phys.A Math.Gen.26. 831-841 (1993)
-
[Publications] M.Shiino: "Self-consistent signal-to-noise analysis of the statistical behavior of analog neural networks and enhancement of the storage capacity" Phys.Rev.E. 48. 867-897 (1993)
-
[Publications] M.Shiino: "Self-consistent signal-to-noise analysis of analog neural networks with nonmonotonic transfer functions and enhancement of the storage capacity" IJCNN 93-NAGOYA. 3. 2555-2558 (1993)
