2015 Fiscal Year Research-status Report
複雑な非線形特性を内包する大規模データを対象にした勾配法に基づく学習アルゴリズム
| Project/Area Number |
26330287
|
|---|
| Research Institution | Shonan Institute of Technology |
|---|
Principal Investigator |
二宮 洋 湘南工科大学, 工学部, 教授 (60308335)
|
|---|
| Project Period (FY) |
2014-04-01 – 2017-03-31
|
| Keywords | ニューラルネットワーク / 学習アルゴリズム / 分割学習 / 準ニュートン法 / 大規模データ |
|---|
| Outline of Annual Research Achievements |
本研究課題では、複雑な非線形特性を持ち、かつ、その特性を表現するために必要な学習データ数が大規模になる非線形システムのニューラルネットワーク(以下、ＮＮ)による近似モデルを実現することを目的とする。この目的の実現のために、まず、以下の2点に関して研究する。
１．統計的手法を用いた複雑な非線形特性を内包する大規模データの分散化
２．誤差関数の凸化による学習アルゴリズムのロバスト性の向上とその分散化
これらの研究により、従来では実現不可能であった複雑さと規模のＮＮによる学習問題を解決するアルゴリズムの開発を目指す。さらに、回路シミュレータ等への応用、特に高周波回路や新たなデバイスの詳細な近似モデルのＮＮによる実現を目的とした研究へと発展させる。以上の研究計画に基づき、平成２７年度において複雑な非線形特性を持つ大規模データの統計的手法による分割方法の確立を行った。分割法の関しては２種類の分割方法を提案し、それぞれの手法に関して考察を行った。また、その有効性を計算機実験により示した。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
研究概要に示した通り、平成２７年度はおおむね研究計画書に記述した通り研究を遂行することができた。具体的には、分割手法それぞれの理論的解析、アルゴリズムの構築、計算機実験のためのコーディングを行った。
|
| Strategy for Future Research Activity |
今後は、複雑な非線形特性を内包する大規模データの学習のために、ニューラルネットワークの誤差関数の凸化による学習のロバスト性と準ニュートン法に対する有効性の調査に関して、より深く検証する予定である。また、これまでは、ベンチマーク問題に対する提案手法の有効性を示してきた。そこで、提案手法の更なる有効性を示すために、より大規模な実問題を取り扱うことを考えている。さらには、アルゴリズムの並列化の有効性を検証するためには複数台のコンピュータを用いた並列分散処理システム上での検証も必須であると考えている。このためのシステム構築と実装に関しても着手する予定である。
|
| Causes of Carryover |
平成27年度はアルゴリズムの理論的解析とその有効性の検証が主たる研究であった。このため、所属機関にて保有するコンピュータシステムの若干の更新で研究を遂行することができた。
|
| Expenditure Plan for Carryover Budget |
今後、提案アルゴリズムの並列分散コンピュータシステム上での検証を行う必要がある。このための物品購入に使用する予定である。また、これらの成果発表を行うための旅費としても使用する。さらには、実験対象やアルゴリズムが多岐にわたるため、実験や簡単なコーディングを支援してもらうために謝金としても使用する予定である。
|
