多層セルラニューラルネットワークの最適設計手法に関する研究

• 研究課題/領域番号: 15760268
• 研究種目: 若手研究(B)
• 配分区分: 補助金
• 研究分野: 通信・ネットワーク工学
• 研究機関: 九州大学
• 研究代表者: 高橋 規一 九州大学, 大学院・システム情報科学研究院, 助教授 (60284551)
• 研究期間 (年度): 2003 – 2004
• 研究課題ステータス: 完了 (2004年度)
• 配分額: 1,300千円 (直接経費: 1,300千円); 2004年度: 600千円 (直接経費: 600千円); 2003年度: 700千円 (直接経費: 700千円)
• キーワード: セルラニューラルネットワーク / 最適設計 / 連想記憶 / 非線形ダイナミクス / 画像処理 / 最適化手法 / サポートベクトルマシン / 非線形回帰 / サポートベクターマシン

研究概要

本年度の成果は以下の通りである。
1.1次元2層セルラニューラルネットワーク(CMN)の安定パターンの特徴付けに関する前年度の成果をまとめ、国際会議2004 IEEE International Midwest Symposium on Circuits and Systemsにおいて発表した。
2.一般化固有値最小化に基づくCNN連想記憶設計法が実は線形計画問題に帰着されることを証明し、線形計画法に基づくCNN連想記憶設計法を提案した。提案手法は一般化固有値最小化に基づく方法に比べて設計時間が大幅に短く、従来法と同等の想起性能を示すことを数値実験によって明らかにした。また、大規模ランダムパターンを用いた実験により、提案手法は、外積法、射影学習則、固有構造法などの従来法よりも優れた想起性能を示すことを明らかにした。
3.1次元離散時間CNNの安定性を理論的に解析し、任意の初期条件に対してCNNが必ず平衡状態に収束するための必要十分条件を導出した。
4.サポートベクトルマシン(SVM)の学習法としてよく用いられる分割法の収束性を解析し、変数選択に関する非常に緩い条件の下で分割法の解が必ず最適解に収束することを証明した。また、非線形回帰のためのSVMの効率的学習法について検討し、分割法に基づく新しい学習アルゴリズムを提案した。提案アルゴリズムの有効性を数値実験によって示した。

研究成果

• [雑誌論文] Global Convergence Analysis of Decomposition Methods for Support Vector Machines (2004)
  • 著者名/発表者名: Norikazu Takahashi et al.
  • 雑誌名: Proceedings of 2004 IEEE International Symposium on Circuits and Systems V ページ: 728-731
• [雑誌論文] Necessary and Sufficient Conditions for One-Dimensional Discrete-Time Binary Cellular Neural Network to be Stable-No Input Case- (2004)
  • 著者名/発表者名: Tetsuo Nishi et al.
  • 雑誌名: Proceedings of 8th IEEE International Workshop on Cellular Neural Networks and their Applications ページ: 453-458
• [雑誌論文] On Stable Patterns Realized by a Class of One-Dimensional Two-layer CNNs (2004)
  • 著者名/発表者名: Makoto Nagayoshi et al.
  • 雑誌名: Proceedings of 2004 IEEE International Midwest Symposium on Circuits and Systems 1 ページ: 385-388
• [雑誌論文] Necessary and Sufficient Conditions for One-Dimensional Discrete-Time Binary Cellular Neural Network (2004)
  • 著者名/発表者名: Hajime Hara et al.
  • 雑誌名: Proceedings of 2004 IEEE International Midwest Symposium on Circuits and Systems 1 ページ: 389-392
• [雑誌論文] Efficient Decomposition Learning Method for Support Vector Regression (2004)
  • 著者名/発表者名: Masashi Kuranoshita et al.
  • 雑誌名: Proceedings of 2004 International Symposium on Nonlinear Theory and its Applications ページ: 705-708
• [雑誌論文] A Design Method of Cellular Neural Networks for Associative Memories based on Linear Programming (2004)
  • 著者名/発表者名: Tsuyoshi Yamakawa et al.
  • 雑誌名: Proceedings of 2004 International Symposium on Nonlinear Theory and its Applications ページ: 641-644
• [文献書誌] Norikazu Takahashi et al.: "Effect of Biases on the Complete Stability of Planar Dynamical Systems related to CNNs"Proceedings of the 2003 Workshop on Nonlinear Dynamics of Electronic Systems. 263-266 (2003)
• [文献書誌] Hajime Hara et al.: "Necessary and Sufficient Condition for the Second-Order Discrete-Time Systems Described by the Signum Function to be Stable"Proceedings of the 2003 International Technical Conference on Circuits, Systems, Computers and Communications. 585-588 (2003)
• [文献書誌] 永吉 実, 高橋 規一, 西 哲生: "ある種の2層CNNで実現できる定常パターンについて"電気関係学会九州支部第56回連合大会講演論文集. 08-2A-08 (2003)
• [文献書誌] Norikazu Takahashi et al.: "On Termination of SMO Algorithm for Support Vector Machines"Proceedings of International Symposium on Information Science and Electrical Engineering 2003. 187-190 (2003)
• [文献書誌] Ryoma Bise et al.: "An Improvement of the Design Method of Cellular Neural Networks Based on Generalized Eigenvalue Minimization"IEEE Transactions on Circuits and Systems I. 50・12. 1569-1574 (2003)