研究概要 |
本研究では新しい学習アルゴリズムの開発,学習アルゴリズムのハ-ドウェア化に適した改良,学習の解析を中心として一連の研究を行った. 1)3層フィ-ドフォワ-ド型ニュ-ラルネットの中間表現が線型分離可能であるための必要十分条件の確立を行い,更にこれを用いて効率的な判定アルゴリズムを確立した.このアルゴリズムは,敷居値論理の分野で従来知られている判定基準(Assummability)よりも計算量において格段に効率的である.また中間素子数が大きいときは線型計画法を適用するよりも効率的となる. 2)リカレントプロパゲ-ション法の高速な学習法の開発とその評価を行った.本研究で開発した高速リカレントプロパゲ-ション法を応用し連想記憶を実現した.従来の連想記憶は,隠れ層を持たすことが不可能であったが,リカレントプロパゲ-ション法では任意の個数の隠れ層が許されるため,記憶容量をいくらでも増大させることが出来る.又,記憶禁止パタ-ンなどはなく,任意のパタ-ンが記憶できる. 3)非線型連続関数を近似する高速なニュ-ラルライクなネットワ-クを提案した.このネットワ-クは関数を領域区分で近似し,領域を競合によって学習する機構と各領域で最小自乗法によって最適な線型関数を求める.この学習法はロ-カルミニマを持たず,BP法の数千倍の速度で所望の近似が得られる.
|