モジュール構造をなす動的人工神経ネットワークのダイナミクス

2001 Fiscal Year Annual Research Report

• Project/Area Number: 12680403
• Research Institution: Ryukoku University
• Principal Investigator: 堤 一義 龍谷大学, 理工学部, 教授 (30197735)
• Keywords: ニューラルネットワーク / ダイナミクス / 写像 / 緩和 / 冗長性 / モジュール / ミニマム / アトラクタ

Research Abstract

人工神経ネットワークに関しては、これまでに、生物学的にも妥当性のある幾つかのパラダイムが提唱されており、これらの内「写像」と「緩和」はとりわけ重要なものである。「写像」や「緩和」が何れも妥当であるとするなら、生物の神経系においては、それらが別々に機能していると考えるより、それらが融合した「より上位の枠組み」の下で情報処理がなされていると考えるのが自然である。そうした立場から、本研究代表者は、これら2つのパラダイムを統合した「モジュール構造をなす動的人工神経ネットワーク」のモデルを複数提案し、「より上位の枠組み」の存在可能性を検討してきた。動的人工神経ネットワークは基本的に非線型フィードバックシステムであるから、結合様式によっては固定点アトラクタ以外にも複数種のアトラクタが存在する可能性があるなど、複雑なダイナミクスを呈する。本研究では、「より上位の枠組み」を説明するため、「モジュール構造をなす動的人工神経ネットワーク」に関する新たなモデルの提案を模索し、そのネットワークのダイナミクスを総合的に明らかにすることが目的である。
初年度となった平成12年度は、第1段階として、最適化問題を例に取り上げ、ネットワーク構造を導く元となるエネルギー関数の形と固定点アトラクタの種類・性質との関係を中心に議論を行った。2年度となる平成13年度は、初年度のこうした成果をふまえつつ、「写像」や「緩和」のさまざまな融合様式の可能性をさらに広く検討した。その結果、これまでに提案した2つの統合モデルに共通して、誤差逆伝播のための経路がネットワーク全体のダイナミクスに重要な貢献をしていることが明らかとなった。最終年度は、多数のCPUをネットワーク経由で連結したBeowulf型計算機を用いて、効率の良い数値解析も重点的に行いたい。

Research Products

• [Publications] Kazuyoshi TSUTSUMI, Kazuo NAKAJIMA: "Dynamics and Local Minima of a Simple Neural Network for Optimization"Proc. of International Joint (IEEE/INNS) Conference on Neural Networks (IJCNN-2001). 353-358 (2001)
• [Publications] Kazuyoshi TSUTSUMI: "Module-Based Neural Architecture : Some Effects by the Cooperation of Static and Dynamical Neurons"Fifth International Conference on Knowledge-Based Intelligent Information Engineering Systems & Allied Technologies. 293-297 (2001)