2011 Fiscal Year Annual Research Report
| Project/Area Number |
21500215
|
|---|
| Research Institution | Mie University |
|---|
Principal Investigator |
萩原 克幸 三重大学, 教育学部, 准教授 (60273348)
|
|---|
| Keywords | 多層パーセプトロン / モデル選択 / 基底可変型関数 |
|---|
| Research Abstract |
本研究は、多層パーセプトロンのモデル選択の問題を解決することを目的としている。これは、予測・パターン認識に有用である多層パーセプトロンの応用上の問題を解決しようとするだけでなく、広く機械学習で有用な特異モデルの応用上のモデル選択の問題を考える上でも重要である。ご本研究では、申請書に記載されているように、多層パーセプトロンのもつ性質である基底可変型関数に着目した。れまでに、基底可変型関数のモデル選択の問題が、ある種の確率変数列の最大値の評価に帰着されることが分かっているが、一般的には解析が難しい。本研究では、ノンパラメトリック回帰を基底可変型関数の観点から捉える場合について、この困難を解決する方法を与えた。その方法では、まず、多数有限個の基底関数を直交化する。直交化された基底ベクトルについて推定された係数に対して、ある閾値を設定し、不必要な基底ベクトルを削除する。最後に、残った基底ベクトルから逆変換により、元の関数の重み係数を得る方法である。この方法は、直交化の方法により、縮小推定を与える方法と基底関数の数を制限する方法として実装できる。重要な点は、ここで用いる閾値は、直交化された空間でノイズ成分と不変的な関数を区別する境界であり、理論的に導かれたものである。ここでの成果は、ノンパラメトリック回帰のモデル選択法として実用的であることを、実データに対して数値的に確認している。さらに、この方法は、多層パーセプトロンの学習法として近年注目されているextrem elearning machineに適用でき、多層パーセプトロンの理論的に妥当でかつ実用的なモデル選択法の構成に近づきつつある。
|
