研究課題/領域番号 |
13680463
|
研究機関 | 東海大学 |
研究代表者 |
上村 龍太郎 東海大学, 総合情報センター, 教授 (80176643)
|
研究分担者 |
内田 理 東海大学, 電子情報学部, 講師 (50329306)
上村 妙子 専修大学, 文学部, 教授 (30205926)
中西 祥八郎 東海大学, 電子情報学部, 教授 (30056254)
|
キーワード | ニューラルネットワーク / 情報量 / 情報量最大化 / 教師付き学習 / 教師なし学習 / 特徴抽出 / 特徴発見 / 汎化能力 |
研究概要 |
ニューラルネットワークの学習を情報理論の立場から記述する研究をおこなった。研究では、学習は情報量最大化原理によって記述できると考えている。特に競合学習の過程を情報量最大化を用いて記述する研究を行なった。次の5つの新しい方法を提案した。 (1)貧欲な情報獲得法(Greedy network-growing algorithm) 外部の情報を最大化しながら成長しつづけるネットワークのモデルを提案し、言語習得、アンケート調査等に応用した。 (2)協調情報最大化法(Cooperative information control) 情報量を最大化する方法と協調する方法を組み合わせ自己組織化マップを生成する方法を提案した。 (3)多層ネットワークにおける情報量最大化(Extension to multi-layered networks) 情報量最大化を多層ネットワークへ応用した。このネットワークでは、どの層においても情報最大化が行なわれると仮定した。 (4)教師指導学習法(Teacher-directed learning) 誤差伝播を用いない新しい教師付き学習を提案した。この方法では、訓練パターンと教師パターンについての情報量が最大化される。 (5)情報最大化と最小化の融合(Unification of information maximization and minimization) 情報量を最大化するのと同様に最小化も行なえる方法を提案した。 これらの新しい方法を用いて、人間の思考、言語等を解明する研究を行なった。
|