2013 Fiscal Year Research-status Report
汎関数に基づく推測理論とL1型正則化モデリングの研究
| Project/Area Number |
25610035
|
|---|
| Research Category |
Grant-in-Aid for Challenging Exploratory Research
|
| Research Institution | Chuo University |
|---|
Principal Investigator |
小西 貞則 中央大学, 理工学部, 教授 (40090550)
|
|---|
| Project Period (FY) |
2013-04-01 – 2016-03-31
|
| Keywords | L1 ノルム正則化法 / 非線形モデリング / 高次モデル評価基準 / 汎関数理論 / スパースモデリング / カーネル識別・判別法 |
|---|
| Research Abstract |
現在，諸科学・産業界で蓄積されつつある超高次元のデータから現象解明に有用な情報やパターンを抽出するための新たなモデリング手法の開発研究に取り組み，平成25年度は以下のような研究成果を挙げた．
１．様々なL1タイプの正則化項を評価関数に課した目的関数に基づくモデリングについて理論的側面から研究し，いくつかの問題点を明らかにした．特に，ウェイトパラメータの絶対値を評価関数に課した正則化項について，想定するモデルとの関係を理論的に研究し，その特徴を明らかにした．
２．正則化法において本質的な評価関数と正則化項の関係を調整する正則化パラメータの選択を目的としたベイズアプローチによるモデル評価基準について理論的・数値的に研究し，ベイズ型予測モデル評価基準を提唱した．現在，実際上有効に機能する汎用性の高いモデリングの提唱に向けて研究を推進中である．
３．L1 型正則化法の基本的な考え方を，高次元データ集合からの情報抽出とデータ構造の視覚化に有効な手法である主成分分析に適用し，その理論的側面と数値的側面について研究した．現在，回帰モデリングの枠組みで主成分分析を捉えて，L1 型正則化法によって射影軸を決定する方法について，様々な観点から研究を推進中である．
４．高次元データ集合に基づく非線形識別・判別法として，その柔軟性と汎化能力の高さから様々な分野の問題解決に適用されているのがサポートベクターマシーン (support vector machine) である．本研究では，カーネル法に基づくサポートベクター識別・判別法と回帰モデリングについて取り組み，多クラス非線形識別機への拡張法，汎化能力の向上に決定的な役割を果たすカーネル関数の選択，カーネル関数に含まれる調整パラメータのデータに基づく客観的な推定法について研究し，理論的・実際的側面から重要課題を提示した．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究の目的とする確率的に変動する超高次元データに基づくL1型正則化モデリングを，ベイズアプローチによって取り組み一定の成果を挙げることができた．この成果は，線形回帰から非線形回帰，識別・判別，カーネル法に基づく識別，次元圧縮などへの展開が期待され，現在研究を推進中である．
モデリングに対して，一般的かつ統一的な理論を構築するには，汎関数の枠組みで研究することが必要となる．このようなアプローチは皆無で，現在，数学的成果をモデリングにどのように取り入れて理論を展開するかを研究中で，いくつかの方法を検討中である．
|
| Strategy for Future Research Activity |
これまでの研究を通して L1 型正則化法に基づくモデリングには，いくつかの問題点があることが明らかになり，これらの問題点を克服する研究を以下に述べるような方法によって推進する．
１．従来の提案手法は，データを発生した真のモデルが想定したモデルの部分モデルとして含まれているとしているが，モデルは実際には真の現象構造の近似にすぎない．特に，データ数に比して極めて次元の高いデータに基づいてモデルを想定するには，当該分野の知識を有効に利用する必要がある．この問題をベイズアプローチによってどのようにモデリングのプロセスに取り込み，現象予測に有効に機能するモデルを構築することが可能か研究する．
２．L1 型正則化モデリングのメリットは，データ数に比して極めて次元の高いデータに基づくモデル化を可能とする点にあるが，その理論研究はデータ数に関する漸近理論に基づいている．この問題点を克服する研究を推進する．
３．モデリングに本質的な正則化項に含まれる調整パラメータの選択に対しては，クロス・バリデーションが主として用いられているが，様々な問題点があり，これに替わる有効なモデル評価基準を予測の観点から構築する．
本研究では，有限個のデータからの情報をもとにモデルを想定し，その近くにデータを生成した真の構造があるという設定のもとで理論を展開し，新たなモデル評価基準を構築し，より実際的な解析手法の研究を推進する予定である．そのための有効な理論と考えられる汎関数に基づく理論構築とそのモデリングへの応用を目指して研究を推進する．
|
| Expenditure Plans for the Next FY Research Funding |
本研究を推進するに当たって必要な計算機利用環境を整備・充実させる予定であったが，最適な機種が2013年度中に発売されなかったこと，また関連して導入予定の計算機周辺機器，計算機ソフトも購入できなかったことが主たる理由である．
2014年度中に研究遂行上必要とする計算機を導入して，非線形最適化法，グラフィックソフト，高速シミュレーション，数式処理等の計算機ソフトを購入予定である．また，当初の計画通り，研究成果発表旅費，計算機周辺機器，図書および関連分野の研究論文購入経費，などを予定している．
|
Research Products
(6 results)
