| 研究課題/領域番号 |
23500189
|
|---|
| 研究機関 | 湘南工科大学 |
|---|
研究代表者 |
二宮 洋 湘南工科大学, 工学部, 准教授 (60308335)
|
|---|
| キーワード | ニューラルネットワーク / 学習アルゴリズム / 準ニュートン法 / オンライン学習法 / バッチ学習法 / 並列アルゴリズム |
|---|
| 研究概要 |
本研究課題では，以下の点に関して研究を進めることにより，非線形性の強い特性を持つ関数(システム)のニューラルネットワークによる近似を可能にすることが目的である．
・オンライン学習法とバッチ学習法の収束特性を考察し，それぞれの学習法の特性を考慮に入れた学習サンプルデータの与え方に関して研究する．
・上記に基づき，ニューラルネットワークの学習のための新たな誤差関数を導出し，これを用いて勾配法に基づくロバストな学習アルゴリズムを構築する．さらに，提案アルゴリズムの有効性を計算機実験により示す．
・提案アルゴリズムの収束性及びロバスト性に関して考察する
ここで、本研究課題におけるロバスト性とは，初期値に依存することなく最適解を得られることを示す．以上の研究計画に基づき、平成２３年度はオンライン学習法とバッチ学習法の特性から新たな誤差関数を導出し，その誤差関数に対して準ニュートン法を適用する新たな学習アルゴリズムを提案した．また，提案アルゴリズムの有効性を計算機実験により明らかにした．これに基づき，平成２４年度では，提案アルゴリズムのロバスト性を示すために，提案アルゴリズムとグローバル最適化手法として知られているシミュレーティッド・アニーリング最適化法とのアナロジーに関して考察した．このアナロジーにより，提案手法が初期値に対してロバスト性(大域収束性)を持つことを示すことができた．また，より大規模な問題に対応するために，アルゴリズムの並列化を目指した研究も進めている．１つは，平成２３年度に行ったマルチコアＣＰＵを用いたアルゴリズムの並列化である．これに加え，平成２４年度において，数値計算においてその有効性が示されている，ＧＰＵを用いた並列アルゴリズムに関する基礎研究を開始した．さらに，提案手法の拡張性を示すために，連携研究者の協力のもと，通信システムへの応用を目指してその基礎研究に着手した．
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
研究概要に記述した通り，平成２４年度は，ほぼ研究計画書に記述した通りに研究を遂行することができた．つまり，平成２３年度に構築した学習アルゴリズムに対するロバスト性の考察を行った．この考察により，提案手法の有効性と妥当性を示すことができた．この点に関しては，電子情報通信学会論文誌と国際会議への発表を行った．さらに，アルゴリズムを発展させることにも成功し，この成果をまとめて，信号処理学会論文誌への発表を行った．また，提案アルゴリズムの応用を模索する中で，通信システムに対する応用を視野に入れた基礎研究を連携研究者とともに行い，２件の国際会議への発表を行った．
|
| 今後の研究の推進方策 |
今後は，まず，今年度行った提案アルゴリズムのロバスト性に関する解析さらに詳細に考察し，その適応範囲や応用範囲についても考察する予定である．また，提案手法のさらなる有効性を示すために，より大規模な学習問題を扱うことを考えている．つまり，アルゴリズムの並列化を図り，マルチコアＣＰＵ及びＧＰＵを組み合わせた並列分散学習アルゴリズムに関しても研究に着手する．また，提案学習法の通信システムへの応用を目指した基礎研究を発展させ，実際の通信システムに用いることを検討する．つまり，ＭＩＭＯ通信網における量子化器をニューラルネットワークでモデル化するための学習手法として提案アルゴリズムを用いる予定である．さらに，本研究の目的である，高い非線形特性をもつシステムのニューラルネットワークによるモデル化の応用として最も有効となる高周波回路モデルの実現と回路シミュレータへの応用に関する基礎研究に関しても着手する予定である．高周波回路モデルのニューラルネットワークによるモデル化は，現在，すでに回路設計の分野では実現されているが，学習が不可能となるほど非線形性が強い回路のモデル化に関しては未だ解決策は見出されていない．本研究がこれらの問題の解決策の１つとなるように提案手法を改良していく予定である．
|
| 次年度の研究費の使用計画 |
平成２５年度は，複数台のマルチコアＣＰＵ及びＧＰＵを用いた並列化システムを用意する必要がある．さらには，これまでの研究成果を広めるため，積極的に対外発表及び討論会に出席する予定である．また，平成２４年度はアルゴリズムの有効性に対する考察を行うため，比較的小規模な問題を対象にしていた．しかしながら，アルゴリズムの有効性を示すためには，より大規模な学習問題に対する計算機実験を行う必要がある．この為、平成２４年度予算の残りを次年度使用予算として用い，これを実験補助をお願いする人員に対する謝金として平成２５年度の予算の中に組み込む予定である．
|
