|
視覚パターン認識能力を持つ「ネオコグニトロン」の改良，その中でも特に，新しい学習手法の実現に重点を置いて研究を進めた．ネオコグニトロンは，多層構造を持つ神経回路で，deep CNN (convolutional neural network) の一種である．
その中間層に対しては，教師なし学習によって自己組織的に特徴抽出細胞を形成させるために，Add-if-Silent則と負のフィードバック信号を組み合わせた学習則を完成させた．この学習則を用いると，中間層の特徴抽出細胞が特徴空間内に均一に分布するように，教師なしの学習によって回路を自己組織化させることができる．しかも，現在deep CNNで広く用いられている種々の学習手法とは異なり，繰り返し学習を必要とせず学習をone-shotで完了させることができるので，効率的に学習が進行する．
最上位層での認識手法としては，以前筆者が提唱した「内挿ベクトル法」を用いると，現在人工神経回路の分野で広く用いられている WTA (winner-take-all) や SVM (support vector machine) などよりも高い認識率を得られる．しかし内挿ベクトル法での認識に要する計算量は，参照ベクトル数が増えると急激に増加するので，最上位層の学習に際しては，学習ベクトルの集合全体をできるだけ少数の参照ベクトルで忠実に表現するように学習を進めることが重要である．そのためにmWTA（margined Winner-Take-All）と名付けた新しい学習法を提唱した．またmWTA則の適用に際しては，細胞の発生と結合のtuningを二段階に分離して行なうことにより，学習を効率的に進められることを明らかにした．更に最終年度には，このmWTAに対して更なる改良を加え，学習の効率化と，学習後の認識率の向上を実現した．
|
