2014 Fiscal Year Research-status Report
視覚情報処理を行なう階層型神経回路の新しい学習手法の研究
| Project/Area Number |
25330300
|
|---|
| Research Institution | Fuzzy Logic Systems Institute |
|---|
Principal Investigator |
福島 邦彦 一般財団法人ファジィシステム研究所, 研究部, 特別研究員 (90218909)
|
|---|
| Project Period (FY) |
2013-04-01 – 2018-03-31
|
| Keywords | 視覚パターン認識 / 視覚情報処理 / 多層神経回路 / deep CNN / ネオコグニトロン / 学習手法 / 内挿ベクトル法 / add-if-silent則 |
|---|
| Outline of Annual Research Achievements |
視覚パターン認識能力を持つ多層神経回路「ネオコグニトロン」の学習手法の改良に重点を置いて研究を進めた．研究の対象としたのは，以下のような構造と機能を持つネオコグニトロンである．多層回路の中間段の学習には，教師なし学習によって特徴抽出細胞を自己組織的に形成させる．最上位段では，中間段で抽出した特徴ベクトルをもとにパターン識別を行なう．
中間段の学習に関しては，add-if-silent則をすでに発表しているが，このadd-if-silent則による学習時に負のフィードバック信号を導入することによって，更に的確な学習が可能になり，高い認識率を小さい回路規模で実現できることを，種々の条件の下で実証した．
最上位段での認識手法としては，以前筆者が提唱した「内挿ベクトル法」を中心に研究を進めた．内挿ベクトル法を用いると，現在人工神経回路の分野で広く用いられている WTA (winner-take-all) や SVM (support vector machine) などよりも高い認識率が得られることは，すでに昨年度までの研究によって実証している．しかし内挿ベクトル法は，そのまま適用すると，膨大な演算コストを要する．そこで本年度は，認識率を低下させずに演算コストを軽減する手法の開発を進めた．その解決法の一つは，学習ベクトルの集合全体を，できるだけ少数の参照ベクトルだけで忠実に表現できるようにすることである．そのために，認識時だけでなく学習時にも「内挿ベクトル法」を用いる手法や，学習を2段階に分けて進める手法などを提唱して，シミュレーションによる検証を進めた．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
視覚パターン認識能力を持つネオコグニトロンの性能の向上を目指して，認識ならびに学習の新しい手法の研究を進めている．ネオコグニトロン型の多層神経回路においては，その中間段と最上位段とでは，それぞれ異なる情報処理原理と，それに適した学習方式が要求される．そこで，この両者の研究を並行して行ない，いずれに関しても新しい方式の提唱や，従来の方式の改善を進めた．新しい考えに基づいて構成した回路の能力は，理論的な検討と平行して，手書き文字に対する認識率を計算機シミュレーションで調べることによって検証している．
認識率の向上や演算コストの削減は，当初に比べるとかなり進んだが，さらなる向上の可能性が残されていると考えられるので，研究を更に推進していく．
|
| Strategy for Future Research Activity |
人工神経回路の分野では，最近 deep convolutional neural network (deep CNN) に注目が集まっている．ネオコグニトロンもそのような deep CNN の一つであるが，一般の deep CNN とは異なる箇所もいくつか存在する．そこで，両者の相違点を明確にするとともに，ネオコグニトロンのほうが優れていると考えられる箇所を更に発展させ，deep CNN の新しい流れを作ることを一つの目標とする．
ネオコグニトロンの最上位段でのパターン識別に用いている内挿ベクトル法に関しては，本年度は，その学習法に特に重点を置いて研究を進めたが，学習が完了した後の認識手法についても，まだ改善の余地があると考えられる．例えば，内挿ベクトルの選び方に制約を加えることによって，高い認識率を保ったまま演算コストを現在よりも更に減らせる方式を考案して予備実験を開始している．今後は，その方式が実際に有効であることをより詳細な計算機シミュレーションによって実証するとともに，更に発展させていく予定である．
以上の研究を土台として，従来よりも更に高い認識率を更に小さい回路規模で実現することのできる多層神経回路の設計原理の確立に向けて研究を進める．
|
| Causes of Carryover |
次年度使用額が発生したが，1,034円とごく僅かである．
|
| Expenditure Plan for Carryover Budget |
次年度に，出張旅費の一部として使用する予定である．
|
