| 研究課題/領域番号 |
16K00342
|
|---|
| 研究機関 | 中部大学 |
|---|
研究代表者 |
中野 良平 中部大学, 工学部, 教授 (90324467)
|
|---|
| 研究期間 (年度) |
2016-04-01 – 2019-03-31
|
| キーワード | 特異領域 / 多層パーセプトロン / 特異階段追跡法 / 複素ニューラルネット / モデル選択 |
|---|
| 研究実績の概要 |
1. 特異領域を利用して実の深層学習法を実現する研究：与えられたデータが複数の関数の出力であるとする混合回帰モデル(mixture of regressions)の最初の目標を、混合線形回帰モデル(mixture of linear regressions)として研究を進め、ソフト混合かハード混合かでは滑らかさを重視して前者を選択し、EMアルゴリズムを用いた従来解法を若干拡張した解法を定式化し実装した。EMアルゴリズムは初期値依存性が強いので、多様な配置を可能とする初期化法を考案実装し実験したところ、元の線形回帰群の正確な復元が可能であり、初期値依存性が弱いこともわかったので、国際会議ICAIA2018で発表した。
2. 特異領域を利用して複素の深層学習法を実現する研究：複素MLPの学習法を大別すると、1次法である複素BP法、2次法である複素BFGS法、複素特異階段を利用した2次法である複素SSF法になる。H27年度までの研究で、複素MLP法C-SSF1.3を開発しており、その性能を他法と多くのデータを用いて比較評価した結果、複素MLPの性能は学習法に大きく依存することがわかったので、信学論に投稿して採録され、国際会議IJCCI2017で発表した。
3. 深層学習の新しい応用を開拓する課題：新しい応用として、時系列予測を取り上げ、その飛躍的精度向上を目指す。具体的には、数理モデルに忠実に従うが、長期予測が困難とされるカオスの軌道予測を考える。特に、予測結果を次の予測の入力とするフリーラン予測では、予測結果の精度劣化が急速に拡大するので、高精度の予測が必要となるとともに、入力データの誤差に対するロバスト性も要求される。RBFネットはその特性を有するので、その学習性能を飛躍的に向上させるため、SSF原理を適用したRBF-SSF法を開発して、その初期成果を研究会で発表した。
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
H29年度では、混合線形回帰モデルのEM解法を拡張して実装して実験し、元の関数群の復元が可能で、初期値依存性が弱いことを確認し、複素SSF法の解品質が他法に比して優れていることを確認し、新応用としての時系列予測の精度向上を目指す研究では、入力誤差に耐性があるRBF-SSFの開発が進み、所望の性能が出ていることなどから、おおむね当初計画通りに研究が進展している。
|
| 今後の研究の推進方策 |
H30年度は、混合回帰モデルでは非線形回帰の混合に拡張するとともに、RBF-SSF法の研究開発を進めて性能向上を目指し、カオス時系列予測に適用する予定である。
|
