2018 Fiscal Year Annual Research Report
Neural Networks Deep Learning Methods Utilizing Singular Regions
| Project/Area Number |
16K00342
|
|---|
| Research Institution | Chubu University |
|---|
Principal Investigator |
中野 良平 中部大学, 工学部, 客員教授 (90324467)
|
|---|
| Project Period (FY) |
2016-04-01 – 2019-03-31
|
| Keywords | 特異領域 / 多層パーセプトロン / 特異階段追跡法 / 複素ニューラルネット / 深層学習 / モデル選択 |
|---|
| Outline of Annual Research Achievements |
1. 特異領域を利用して実の深層学習法を実現する研究：データが複数の生成源から来たときモデル切り分けが必要となり深層学習は混合回帰に繋がる。2016年度はソフト混合、EMアルゴリズム利用の方針で混合回帰方式を研究し、2017年度は混合線形回帰の解法を考案実装し有効性を確認して国際会議ICAIA2018で発表した。2018年度は非線形に拡張して、強い適合力を持つ多層パーセプトロン(MLP)から成る混合MLP回帰の解法を考案実装し有効性を確認して国際会議ICPRAM2019で発表した。
2. 特異領域を利用して複素の深層学習法を実現する研究：複素MLPに周期性と非有界性を有する複素シグモイド関数を採用して、複雑な周期関数の近似を目指した。2016年度は優れた解品質と高速学習を実現する複素MLP学習法C-SSF1.3を開発し、カオス時系列予測に適用し良好な結果を得て国際会議IJCNN2016で発表した。さらに、多様なデータを用いた実験の成果を信学論に投稿し採録され、国際会議IJCCI2017で発表した。
3. 深層モデル選択法の研究：MLPのような特異モデルのモデル選択に近年WAICとWBICが提案された。そのサンプリング評価法として実MLP学習法SSF1.4を用いた実験を続け、良好な結果を得て国際会議ICPRAM2017で発表した（最優秀論文賞を受賞）。
4. 深層学習の新しい応用を開拓する課題：新応用として長期予測が至難のカオス軌道予測を考えた。予測の精度劣化が急速に拡大するので、高精度予測の他に入力誤差に対するロバスト性が強く要求される。その特性を有するRBFネットに着目しSSF原理を適用してRBF-SSF法を開発し、良好な結果を得たので国際会議ICAISC2018で発表した。さらに、解品質を保持しつつ最大3.6倍の高速化を実現して国際会議ICPRAM2019で発表した。
|
