2003 Fiscal Year Annual Research Report
多層セルラニューラルネットワークの最適設計手法に関する研究
| Project/Area Number |
15760268
|
|---|
| Research Institution | Kyushu University |
|---|
Principal Investigator |
高橋 規一 九州大学, 大学院・システム情報科学研究院, 助教授 (60284551)
|
|---|
| Keywords | セルラニューラルネットワーク / 最適設計 / 連想記憶 / 画像処理 / 非線形ダイナミクス / 最適化手法 / サポートベクターマシン |
|---|
| Research Abstract |
本年度の成果は次の通りである.
1.1次元セルラニューラルネットワーク(CNN)で実現可能な定常パターン集合について理論的解析を行い,単層と2層の信号処理能力の違いを明らかにした.具体的には,許容局所パターンという概念を導入し,単層と2層のそれぞれについて,CNNで実現可能な許容局所パターン集合の特徴付けを行った.その結果,単層CNNでは256通りある許容局所パターン集合のうち59通りしか実現できないのに対して,2層CNNでは256通り全てが実現可能であることが明らかになった.
2.CNNにおける平衡点の引き込み領域に関するいくつかの性質を明らかにし,これを基にしたCNN連想記憶回路設計法を提案した.提案手法は一般化固有値最小化に基づく従来の設計法を改良したものである.アルファベット26文字のパターンに対して提案手法を適用した結果,すべての場合において従来法よりも高い平均想起確率が達成された.
3.2個のセルからなるCNNの完全安定性を理論的に考察し,CNNのバイアスが完全安定性に及ぼす影響を部分的に解明した.具体的には,バイアスがない場合に完全安定なCNNでもバイアスの値を適当に設定することにより不安定になりうることを示し,そのようなことが起きるためのセル間結合に関する十分条件を明らかにした.
4.サポートベクターマシン(SVM)の学習法の一つであるSMOアルゴリズムの大域収束性を理論的立場から考察し,他の研究者によって与えられた証明の不完全性を示した上でより厳密な証明を与えた.SVMは疎結合ニューラルネットワークの一種と見なすことができるので,この点においてCNNと接点がある.また,SVMの学習は凸2次計画問題に帰着されるので,この結果をCNNの最適設計に利用できる可能性がある.
|
Research Products
(5 results)
-
[Publications] Norikazu Takahashi et al.: "Effect of Biases on the Complete Stability of Planar Dynamical Systems related to CNNs"Proceedings of the 2003 Workshop on Nonlinear Dynamics of Electronic Systems. 263-266 (2003)
-
[Publications] Hajime Hara et al.: "Necessary and Sufficient Condition for the Second-Order Discrete-Time Systems Described by the Signum Function to be Stable"Proceedings of the 2003 International Technical Conference on Circuits, Systems, Computers and Communications. 585-588 (2003)
-
[Publications] 永吉 実, 高橋 規一, 西 哲生: "ある種の2層CNNで実現できる定常パターンについて"電気関係学会九州支部第56回連合大会講演論文集. 08-2A-08 (2003)
-
[Publications] Norikazu Takahashi et al.: "On Termination of SMO Algorithm for Support Vector Machines"Proceedings of International Symposium on Information Science and Electrical Engineering 2003. 187-190 (2003)
-
[Publications] Ryoma Bise et al.: "An Improvement of the Design Method of Cellular Neural Networks Based on Generalized Eigenvalue Minimization"IEEE Transactions on Circuits and Systems I. 50・12. 1569-1574 (2003)
