• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

遅延と切断を有するニューラルネットワークの理論解析

研究課題

研究課題/領域番号 13780313
研究種目

若手研究(B)

配分区分補助金
研究分野 知能情報学
研究機関神戸市立工業高等専門学校

研究代表者

三好 誠司  神戸市立工業高等専門学校, 電子工学科, 助教授 (10270307)

研究期間 (年度) 2001 – 2002
研究課題ステータス 完了 (2002年度)
配分額 *注記
1,500千円 (直接経費: 1,500千円)
2002年度: 800千円 (直接経費: 800千円)
2001年度: 700千円 (直接経費: 700千円)
キーワード連想記憶 / ニューラルネットワーク / 遅延 / シナプス切断 / 統計神経力学
研究概要

相関型の連想記憶モデルではシナプスを切断するとシナプス一本あたりの記憶容量が増大することが知られている。しかしその場合、ネットワーク全体の記憶容量は減少してしまう。この困難を解決するために、リカレントニューラルネットワークに遅延シナプスを導入し、シナプス本数は一定にしながら、シナプスの結合率を小さくすることを提案した。まず、シナプスに遅延を有するリカレントニューラルネットワークのモデルを設定した。次に、このようなモデルの巨視的状態遷移方程式と巨視的定常状態方程式を統計神経力学と離散フーリエ変換を用いて導出した。導出された理論を用いて、まず、シナプスが全結合している場合、すなわち、シナプスに切断がない場合について、ネットワークの初期状態によるダイナミクスや記憶容量の違いについて検討した。さらに、無作為切断と系統的切断の2通りのシナプス切断について理論的な解析を行った。その結果、いずれの場合においても、c×L一定(ここで、cはシナプスの結合率、Lは遅延段数)、すなわち、シナプス総本数一定の条件下でシナプスの結合率cを下げながら遅延段数Lを増すと記憶容量が増大することがわかった。また、遅延段数Lが大きい極限で、無作為切断の場合には記憶容量が2/πに漸近するのに対し、系統的切断の場合には、記憶容量が4/πln Lとなり、遅延段数Lの対数に比例して発散することが理論的に明らかになった。これらの結果は計算機シミュレーションとの比較により検証された。今回得られたこれらの知見は、脳がシナプスの過剰生成と刈り込みを行うという事実の理論的な裏付けとなるものである。また、脳内においては平衡状態よりも系列やリミットサイクル等の動的なアトラクタを記憶する方が望ましいことを強く示唆するものである。

報告書

(2件)
  • 2002 実績報告書
  • 2001 実績報告書
  • 研究成果

    (5件)

すべて その他

すべて 文献書誌 (5件)

  • [文献書誌] Miyoshi, S., Okada, M.: "Associative Memory by Neural Networks with Delays and Pruning"Electronics and Communication in Japan Part 3: Fundamental Electronic Science, John Wiley & Sons. 86・6. 48-58 (2003)

    • 関連する報告書
      2002 実績報告書
  • [文献書誌] Miyoshi, S., Okada, M.: "A theory of associative memory model with synaptic delay and pruning"Proc. Symposium on Nonlinear & Linear Information Processing Systems. 44-51 (2002)

    • 関連する報告書
      2002 実績報告書
  • [文献書誌] Miyoshi, S., Yanai, H.F., Okada, M.: "Associative memory by recurrent neural networks with delay elements"Proc. 9th Int. Conf. on Neural Information Processing (ICONJP'02). 1. 70-74 (2002)

    • 関連する報告書
      2002 実績報告書
  • [文献書誌] 三好誠司, 岡田真人: "遅延と切断を有するニューラルネットワークによる連想記憶"電子情報通信学会論文誌A. J85-A・1. 124-133 (2002)

    • 関連する報告書
      2001 実績報告書
  • [文献書誌] Miyoshi, S., Okada, M: "Associative Memory by Neural Networks with Delays and Pruning"Electronics and Communication in Japan Part 3: Fundamental Electronic Science, John Wiley & Sons. (掲載予定).

    • 関連する報告書
      2001 実績報告書

URL: 

公開日: 2001-04-01   更新日: 2016-04-21  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi