2010 Fiscal Year Annual Research Report
複雑現象解明のための統計的モデリングと諸科学への応用
Project/Area Number |
10F09702
|
Research Institution | Kyushu University |
Principal Investigator |
二宮 嘉行 九州大学, 大学院・数理学研究院, 准教授
|
Co-Investigator(Kenkyū-buntansha) |
DOLINSKY Jan 九州大学, 大学院・数理学研究院, 外国人特別研究員
|
Keywords | エコーステートネットワーク / 高次非線形モデリング / 正則化法 / 動径基底関数展開法 / 非単調活性化関数 / 変数選択 / モデル選択 / リカレントニューラルネット |
Research Abstract |
リカレントニューラルネット(フィードバックニューラルネット)の一種であるEcho State Networks (ESN)について,モデルの非線形化の一つの有効な手法である動径基底関数展開法を融合する研究を様々な角度から行ってきた.最新成果を調べた結果,Echo State Networks (ESN)の改良と適用の拡大化を図る研究が国際的に進められ,多数の研究成果が報告されているが,種々の適用上の問題点があることを認識した.特に,構築したモデルは多数の不安定要素を含み,モデリングの最も重要な問題である「将来の現象予測に有効に機能」するという視点に欠けていることが分かった.これらの問題点に対処するために,非線形関数の線形結合で表される動径基底関数展開とモデルの安定化に寄与する正則化法を組み合わせ,最適なモデルをデータから自動抽出する研究を行い,新たなモデリング手法を提唱することができた.また,活性化関数として,従来用いられてきたロジスティック関数やハイパボリック・タンジェント関数に代わり,それにある種のノイズを加えた関数を用いることを提案した.その際に必要となるハイパー・パラメータの選択では,実験計画の理論を基とした基準をものを用いた.この結果多様性に富んだモデル構築が可能となり,従来の方法に比べてはるかに高い予測能力をもつモデルを与えることに成功した,また,そのことを工学問題に対応することを見据えた数値実験を大規模におこなうことにより,確認した.
|