2016 Fiscal Year Research-status Report
Project/Area Number |
16K00342
|
Research Institution | Chubu University |
Principal Investigator |
中野 良平 中部大学, 工学部, 教授 (90324467)
|
Project Period (FY) |
2016-04-01 – 2019-03-31
|
Keywords | 特異領域 / 多層パーセプトロン / 特異階段追跡法 / 複素ニューラルネット / モデル選択 |
Outline of Annual Research Achievements |
1.特異領域を利用して実の深層学習法を実現する研究:与えられたデータが複数の関数の出力であるとする関数混合モデル(mixture of functions)を研究対象として研究を進めている。現在、関数混合データから複数の関数を分離するためのモデルとアルゴリズムを検討し、試作中である。 2.特異領域を利用して複素の深層学習法を実現する研究:複素MLPは活性化関数によって近似性能が大きく異なる。本研究では、周期性と非有界性を有する複素シグモイド関数を採用して、複雑な周期性を持つ関数の近似を実現する。H27年度までの研究で、探索枝刈りの導入と探索数の制限により解品質を保持しつつ高速化を実現する複素MLP学習法C-SSF1.3を開発した。H28年度は、その解法を予測不可能とされるカオス時系列予測に適用して良好な結果を得たので、国際会議IJCNN2016で発表した。さらに、多様なベンチマークを用いて、C-BP法やC-BFGS法と性能比較する計算機実験を行い、C-SSF1.3が解品質と処理時間の面で最も優れていることを実証した。研究成果をCI研究会や情報学ワークショップで発表し、それを増強して信学論を提出し採録された。 3.特異モデルと深層特異モデル選択法に関する研究:多層パーセプトロン(MLP)のような特異モデルのモデル選択では、漸近正規性が使えず正則モデル用の情報量基準が使えない。特異モデル理論研究の成果として、近年WAICとWBICが提案された。その評価法としてサンプリング法が有望であると考え、H27年度までの研究で開発した実MLP学習法SSF1.4をサンプリング法として実験を続けたところ、良好な結果を得たので国際会議ICPRAM2017に投稿して採録された。会議では非常に高い評価を得て、最優秀論文賞を受賞した。
|
Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
H28年度では、深層学習法のエンジンとしての特異階段追跡法(SSF法)の優秀性が計算機実験を通して確認できたとともに、特異モデル選択にSSF法をサンプリング法として用いるアプローチに関して良好な研究成果を得た。このようにおおむね当初計画通り研究が進行している。
|
Strategy for Future Research Activity |
H29年度は、特異領域を用いた深層学習法の実装を完成させるとともに、特異モデルと深層特異モデル選択法に関する研究を進める予定である。
|