| 研究概要 |
能動学習は,2つの問題に分けて考えることができる.第1は新しい訓練データをどのように選ぶかという問題であり,第2は,新しい訓練データが選ばれた後,最適な汎化能力をもつニューラルネットワークを,既に得られているニューラルネットワークと新しい訓練データだけを用いて,どのように構成していくかという追加学習の問題である.本年度は,この追加学習の問題を中心に研究を進めていった.
既に,ウィーナー学習の意味での追加学習の方式が与えられていた.しかし,その成果は汎化能力という情報科学の議論に限られたものであり,ニューラルネットワークを実際に構成するための結合荷重などのパラメータを決定するという情報工学としての議論はなされていなかった.また,情報科学の問題に限っても、いくつかの解は求められていたが,一般解については議論されていなかった.
そこで,まず情報科学の立場から,ウィーナー学習による追加学習の一般解を与えた.更に,射影学習や記憶学習に対しても同様に一般解を与えた.次に,情報工学の立場から,追加学習を行なうニューラルネットワークのパラメータの更新方法を与えた.
また,追加された訓練データが必要であるかどうかを2個のパラメータα,βを使って判別し,必要でないと判別された訓練データを棄却することにより,新しいニューラルネットワークを効率良く計算するアルゴリズムを与えた.従来は,この判別をβの値だけを使って行なっていた.新たにαを導入することにより,今まで棄却していた訓練データの中にも,学習にとって有効なものがあることを明らかにした.
この議論をもとにして,能動学習の第1の問題である新しい訓練データの選び方に対する1つの指針を得ることができた.即ち,α,βの値が正になるように訓練データを選ぶのである.この成果をもとにして,来年度は第1の問題を重点的に解明していく予定である.
|
