2014 Fiscal Year Research-status Report
利用しやすい構造を有する準線形サポートベクターマシンの構成と応用に関する研究
| Project/Area Number |
25420452
|
|---|
| Research Institution | Waseda University |
|---|
Principal Investigator |
古月 敬之 早稲田大学, 理工学術院, 教授 (50294905)
|
|---|
| Project Period (FY) |
2013-04-01 – 2017-03-31
|
| Keywords | サポートベクターマシン / ニューラルネットワーク / 機械学習 / 適応制御 / パターン分類 / 局所線形化 |
|---|
| Outline of Annual Research Achievements |
本研究では、制御系設計等に利用しやすい構造を持つ準線形ニューラルネットワークモデルを構築し、そのパラメータを推定するための体系的な学習法の確立を目指す。具体的に、回帰または分類のための利用しやすい線形構造を有する準線形サポートベクターマシン（SVM)の構築およびそのオンライン学習法の開発を行い、スイッチング適応制御法や高性能分類器の開発などへの応用研究を行っている。本年度では、
①準線形カーネルの合成技術に関しては、応用ごとに最適なカーネルを構築するために、局所線形性が抽出できるクラスタリング技術の開発を行い、幾何的な新しい手法を検討した。この技術を確立することにより、機械学習でカーネル自動合成することが可能になる。
②準線形SVMの学習技術に関しては、合成カーネルを持つ非線形回帰や分類のためのサポートベクターマシン（SVM)を構築し、大規模な問題（ビッグデータや系列データ）に適用するため、Incremental SVMというオンラインSVM学習法を開発した。
③準線形SVMの応用技術に関しては、制御系設計に利用しやすい線形特性や線形サブモデル構造などを有する準線形SVMを構築するため、ネットワークの階層構造とその有用性を考察し、ネットワークのノード関数の局所特性を活用したネットワークの入出力の回帰表現への変換技術および補間による局所線形化技術を開発し、制御系設計に適用しやすい構造を持つSVMの構築を行った。また、ネットワークの構造の自己組織化法とパラメータのリャプノフ学習法の開発を行った。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究の目的を実現するために、機械学習による準線形カーネルの合成を行う準線形SVMの構築、学習技術と利用しやすい構造を有する準線形SVMの構築技術、準線形SVMに基づいたスイッチング制御技術および高性能分類技術を開発し、非線形ダイナミカルシステムの適応制御および遺伝子やタンパク質などの応用を行う予定している。本年度では、計画通り、①準線形SVMの構成方式を確立し、機械学習でカーネル自動合成を実現した。②準線形SVMの構造を活用した制御系設計方式を確立した。③準線形SVMを基づいたスイッチング適応制御を行った。
|
| Strategy for Future Research Activity |
次年度では、前年度の引き続き利用しやすい構造を有する準線形サポートベクターマシン（SVM）の構成の基本方式に基づいて様々な側面から拡張を行い、展開の検討を行う。
①準線形カーネルの合成技術に関しては、非線形分類問題の特性を考慮した機械学習法によりカーネル自動合成技術の開発を行う。非線形回帰問題と非線形分類問題にはそれぞれの特性がある。入力空間の分割を例とすれば、非線形回帰問題では、空間全体がカーバできること重要であるが、非線形分類問題では、分類超平面に沿って空間を分割することが重要であり、分類超平面検出技術、正負サンプルのバランスを保つクラスタリング技術
の開発が必要となる。
②準線形SVMの学習技術に関しては、RBFネットワーク、ウェブレットネットワーク、ニューロファジイネットワークを補間基底関数とする場合の多次元入力空間の自動分割技術を開発する。特に、準線形SVMの構造を決定するパラメータを推定するためのクラスタリング分割法或いはグリッド分割法を開発し、対象システムの入力空間情報を自動抽出を行う。
③準線形SVMの応用技術に関しては、合成カーネルを持つ非線形分類のためのサポートベクターマシン（SVM）の構築技術を開発し、高性能な非線形分類器の構築を行う。
|
| Causes of Carryover |
計算用サーバーが予定より安く購入できたため。
|
| Expenditure Plan for Carryover Budget |
翌年度分と合わせてより性能がよい計算用サーバーもう一台購入する予定している。
|
