• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2016 Fiscal Year Research-status Report

特異領域を利用するニューラルネット深層学習法

Research Project

Project/Area Number 16K00342
Research InstitutionChubu University

Principal Investigator

中野 良平  中部大学, 工学部, 教授 (90324467)

Project Period (FY) 2016-04-01 – 2019-03-31
Keywords特異領域 / 多層パーセプトロン / 特異階段追跡法 / 複素ニューラルネット / モデル選択
Outline of Annual Research Achievements

1.特異領域を利用して実の深層学習法を実現する研究:与えられたデータが複数の関数の出力であるとする関数混合モデル(mixture of functions)を研究対象として研究を進めている。現在、関数混合データから複数の関数を分離するためのモデルとアルゴリズムを検討し、試作中である。
2.特異領域を利用して複素の深層学習法を実現する研究:複素MLPは活性化関数によって近似性能が大きく異なる。本研究では、周期性と非有界性を有する複素シグモイド関数を採用して、複雑な周期性を持つ関数の近似を実現する。H27年度までの研究で、探索枝刈りの導入と探索数の制限により解品質を保持しつつ高速化を実現する複素MLP学習法C-SSF1.3を開発した。H28年度は、その解法を予測不可能とされるカオス時系列予測に適用して良好な結果を得たので、国際会議IJCNN2016で発表した。さらに、多様なベンチマークを用いて、C-BP法やC-BFGS法と性能比較する計算機実験を行い、C-SSF1.3が解品質と処理時間の面で最も優れていることを実証した。研究成果をCI研究会や情報学ワークショップで発表し、それを増強して信学論を提出し採録された。
3.特異モデルと深層特異モデル選択法に関する研究:多層パーセプトロン(MLP)のような特異モデルのモデル選択では、漸近正規性が使えず正則モデル用の情報量基準が使えない。特異モデル理論研究の成果として、近年WAICとWBICが提案された。その評価法としてサンプリング法が有望であると考え、H27年度までの研究で開発した実MLP学習法SSF1.4をサンプリング法として実験を続けたところ、良好な結果を得たので国際会議ICPRAM2017に投稿して採録された。会議では非常に高い評価を得て、最優秀論文賞を受賞した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

H28年度では、深層学習法のエンジンとしての特異階段追跡法(SSF法)の優秀性が計算機実験を通して確認できたとともに、特異モデル選択にSSF法をサンプリング法として用いるアプローチに関して良好な研究成果を得た。このようにおおむね当初計画通り研究が進行している。

Strategy for Future Research Activity

H29年度は、特異領域を用いた深層学習法の実装を完成させるとともに、特異モデルと深層特異モデル選択法に関する研究を進める予定である。

  • Research Products

    (7 results)

All 2017 2016 Other

All Journal Article (1 results) (of which Peer Reviewed: 1 results,  Open Access: 1 results) Presentation (5 results) (of which Int'l Joint Research: 2 results) Remarks (1 results)

  • [Journal Article] 複素多層パーセプトロンの性能と学習法の関係に関する実験評価2017

    • Author(s)
      佐藤聖也, 中野良平
    • Journal Title

      電子情報通信学会論文誌

      Volume: J101-D Pages: 649, 660

    • DOI

      10.14923/transinfj.2016JDP7109

    • Peer Reviewed / Open Access
  • [Presentation] How new information criteria WAIC and WBIC worked for MLP model selection2017

    • Author(s)
      Seiya Satoh, Ryohei Nakano
    • Organizer
      ICPRAM 2017 (6th International Conference on Pattern Recognition Applications and Methods)
    • Place of Presentation
      Porto, Portugal
    • Year and Date
      2017-02-24 – 2017-02-26
    • Int'l Joint Research
  • [Presentation] 複素多層パーセプトロンの学習法と非線形性の関係に関する実験評価2016

    • Author(s)
      佐藤聖也, 中野良平
    • Organizer
      第14回情報学ワークショップ(WiNF 2016)
    • Place of Presentation
      愛知県立大学
    • Year and Date
      2016-11-27 – 2016-11-27
  • [Presentation] 多層パーセプトロンを用いた二重振り子カオス軌道予測2016

    • Author(s)
      小島久幸, 佐藤聖也, 中野良平
    • Organizer
      第14回情報学ワークショップ(WiNF 2016)
    • Place of Presentation
      愛知県立大学
    • Year and Date
      2016-11-27 – 2016-11-27
  • [Presentation] How complex-valued multilayer perceptron can predict the behavior of deterministic chaos2016

    • Author(s)
      Seiya Satoh, Ryohei Nakano
    • Organizer
      IJCNN 2016 (the International Joint Conference on Neural Networks)
    • Place of Presentation
      Vancouver, Canada
    • Year and Date
      2016-07-24 – 2016-07-29
    • Int'l Joint Research
  • [Presentation] 複素特異階段追跡法の解品質と計算時間の実験評価2016

    • Author(s)
      佐藤聖也, 中野良平
    • Organizer
      計測自動制御学会(システム・情報部門)第9回コンピューテーショナル・インテリジェンス(CI)研究会
    • Place of Presentation
      千葉大学
    • Year and Date
      2016-07-09 – 2016-07-09
  • [Remarks] ニューラル情報処理の研究

    • URL

      http://www.nipl.cs.chubu.ac.jp/~nakano/learning-j.html

URL: 

Published: 2018-01-16  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi