2005 Fiscal Year Annual Research Report
自己増殖型ニューラルネットワークによる知識獲得に関する研究
Project/Area Number |
05J08385
|
Research Institution | Tokyo Institute of Technology |
Principal Investigator |
申 富饒 東京工業大学, 大学院・理工学研究科, 特別研究員(DC2)
|
Keywords | 自己増殖 / ニューラルネットワーク / クラスタリング / 位相学習 / 耐ノイズ / 追加学習 |
Research Abstract |
一般に既存の機械学習手法は学習過程と認識過程が明確に分かれていて新規データの追加学習が困難であるほか、ノイズに対する耐性に乏しい。本研究では、耐ノイズ性を有し、教師なしの追加的クラスタリング・位相学習が可能な独自の自己増殖型ニューラルネットワーク(SOINN : Self-organizing Incremental Neural Network)を提案する。提案するネットワークでは、ローカルの累積誤差により新しいノードを挿入すると、追加学習が実現できる。またノードの挿入が必要かを判断するメカニズムを入れることにより、ノード数の過度の増加を抑制できる。さらに、提案手法には類似性しきい値を導入し、その入力信号と最も近いノードの間の距離がしきい値より大きい場合、入力信号は新しいクラスタを形成させる。これが新奇な知識の学習の基盤となる。入力信号の低密度領域にあるノードを削除することにより、重複したクラスタを分けることもできる。2次元人工データを用いた実験を通じ、SOINNと従来手法の性能比較を行っている。比較の結果、提案手法は、(1)追加学習の可能性、(2)ノイズに対する耐性、(3)クラスタリング性能、(4)位相学習における柔軟性、のいずれにおいても、従来手法に優れるとしている。SOINNを顔画像の認識に適用した実験では、10人分の顔画像を教師なしに適切にクラスタリングできたことを示している。SOINNを手書き文字画像データベースOptdigitsに適用した実験では、SOINNがOptdigitsの各クラスの位相を適切に表現し、それらを他の代表的なパターン識別手法であるSupport Vector Machine(SVM)よりも高精度に識別できたことを示している。
|