階層型ニューラルネットワークモデルによりパターン情報からの知的概念形成のシミュレーションを行うシステムを用いて、パターン情報と出力(概念)が1対1に対応している場合(単一出力表現)と、1つのパターン情報に対して複数の出力(概念)が重複して対応している場合(分散出力表現)について調べた。その結果、人間の脳の情報表現に近い分散出力表現は実際に学習が可能であり、また単一出力表現に比べて、より頑健であり汎化能力が高いことが示唆された。また学習アルゴリズムであるバックプロパゲーション法において特徴抽出や情報圧縮を行っている中間層に注目すると、分散出力表現の場合に、非常に特徴的な中間層の情報表現が成立していることが分かった。さらに人間的な概念形成を研究するために、人間の大脳皮質の連合野において形成されると考えられる概念形成の総合モデルを取り扱った。具体的には多種入力・多種出力の合計9層の複合階層型ニューラルネットワークを構築し、その中にすべての入力と出力を統合する中間層(高次連合野層)を設定した。さらにこの高次連合野層の神経細胞群の活性をそのまま次の時点まで保持して次の入力と混合するための文脈層を設定して、時系列データの学習を実行できるように工夫した。このネットワークに、様々な入出力の組み合わせを学習させた結果、時系列データに含まれる指示に従って選択的に出力経路を切り替えることができるようになった。このモデルは多重知性を状況依存的に切り替えながら情報処理を行う脳型のモデルであると考えられる。高次連合野層における内部表現がこのような情報処理における知的概念形成を表すものと考えられるが、非常に複雑な分散内部表現を保持しており、その解析にはさらに新しい手法を導入することが必要であると考えられる。
|