2014 Fiscal Year Annual Research Report
圧縮センシングに基づく超高次元非線形写像の機械学習に関する研究
Publicly Offered Research
| Project Area | Initiative for High-Dimensional Data-Driven Science through Deepening of Sparse Modeling |
|---|
| Project/Area Number |
26120526
|
|---|
| Research Institution | Nagasaki University |
|---|
Principal Investigator |
酒井 智弥 長崎大学, 工学研究科, 准教授 (30345003)
|
|---|
| Project Period (FY) |
2014-04-01 – 2016-03-31
|
| Keywords | 信号処理 / ニューラルネットワーク / パターン認識 / 逆問題 |
|---|
| Outline of Annual Research Achievements |
画像や時系列信号等、高次元データを処理するシステムの設計や同定が困難であるとき、処理前後のデータや、システムの入出力の高次元データの大量の事例を基に、システムを自動的かつ効率的に構築する仕組みを実現したい。本研究では、まずこれを超高次元非線形写像の機械学習として具体化した。基本的な着想は、非線形写像の入出力データをそれぞれ低次元化し、低次元非線形写像の機械学習に置き換えることである。既存手法のExtreme Learning Machine（ELM）を高次元非線形写像の機械学習に適用することを考えたとき、高次元入力データをランダム射影で低次元化し、非線形活性化処理の後、高次元出力データへ線形回帰していると解釈できる。この既存手法が非現実的である原因は、ランダム行列を用いたランダム射影と、高次元データへの線形回帰にある。提案手法「圧縮ELM」は、ランダム行列を必要としない高効率ランダム射影を導入して入出力データ双方を低次元化し、圧縮センシングに基づく出力データのスパース再構成によって既存手法の問題を克服した。
当該年度では、提案手法についてアルゴリズムの設計と実装、および計算量や汎化性等の基本的な性能評価を実施した。また、「圧縮ELM」を信号処理に関する研究会と国際会議で発表した。更に、逆問題ソルバの機械学習を提案手法で構築すると、時間領域電磁波逆散乱問題の求解に応用できる可能性を見出した。以上を、当該新学術領域の公開シンポジウムにて発表した。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
当該年度は、超高次元非線形写像の効率的な機械学習アルゴリズムを設計・実装し、基本的な性能を評価すること、および実用性を検証できる応用について調査を始める計画であった。設計・実装の計画は達成されている。ランダム射影のアンサンブルを利用した精度向上については未検証であるものの、評価実験で基本的な性能を検証することは達成できている。また、非破壊検査等への実用性を期待できる電磁波逆散乱問題への応用を見込めることを発見している。
|
| Strategy for Future Research Activity |
平成26年度に設計した学習アルゴリズムに、入出力データのスパースモデリングを導入する。低次元化した訓練データの辞書学習によって数値的にスパースモデルを作成することで、莫大な計算量を要する高次元データのスパースモデリングを避けつつ、出力の高次元データを再構成する方法を考案する。また、入出力データをそれぞれスパース表現することで、少数の構成要素で入出力データを説明する変数を得て、入出力間の説明変数の対応づけを可能にする。
新たな入出力の訓練データが追加されたときに学習済みの非線形写像を更新するアルゴリズムを設計する。これにより、時系列データを訓練データに使用可能にする。また、バッチ処理が困難な大規模データをオンライン学習することで、より複雑な非線形写像の機械学習の実現を目指す。更に、写像に利用しているニューラルネットワークの多層化を検討する。
機械学習に基づくデータ駆動型の逆問題解法を提案する。結果から原因を推定する非線形写像を学習するため、順モデルを用いた数値シミュレーションで大量の訓練データを生成する。非破壊検査を想定した電磁波逆散乱問題で性能を評価する。
|
