2014 Fiscal Year Research-status Report
汎関数に基づく推測理論とL1型正則化モデリングの研究
| Project/Area Number |
25610035
|
|---|
| Research Institution | Chuo University |
|---|
Principal Investigator |
小西 貞則 中央大学, 理工学部, 教授 (40090550)
|
|---|
| Project Period (FY) |
2013-04-01 – 2016-03-31
|
| Keywords | L1 ノルム正則化法 / 非線形モデリング / 汎関数理論 / 関数混合効果モデリング / ベイズモデリング / 次元圧縮 / スパースモデリング |
|---|
| Outline of Annual Research Achievements |
平成２６年度は，これまでの研究実績を踏まえてこれをさらに継続・発展させて，超高次元データに基づく複雑現象の解明と予測・制御のための新たなモデリングの開発研究と諸科学への応用研究に取り組み，以下のような研究成果を挙げた．
１．損失関数に様々なL1タイプの正則化項を課した目的関数に基づく線形・非線型回帰モデリング，ロジスティックモデリングについて研究し，予測情報量規準，モデル平均化法を融合した新たなスパースモデリングを提案した．
２．L1型正則化法によるモデリングに本質的な損失関数と正則化項の関係を調整する正則化パラメータの選択を目的としたベイズアプローチによるモデル評価基準について引き続き研究し，より汎用性の高いベイズ型予測モデル評価基準を提唱した．
３．複数の個体に関して経時的に観測・測定されたデータに基づいて，現象の結果に影響を与える様々な要因を結びつけてモデル化する回帰モデリングの研究に取り組み，時変型回帰係数モデルや関数混合効果モデルなど，複雑かつダイナミックな様相を呈する現象解析に有効な新たな非線形モデリング手法について研究した．
４．これまで回帰モデリングを通して研究に取り組んできた L1 型正則化法を，高次元データの次元圧縮とデータ構造の視覚化に有効な手法である主成分分析，カーネル主成分分析，部分空間法に適用し，理論的・数値的に研究を推進した．現在，非線形構造を内包する高次元データの次元圧縮について研究し，L1 型正則化法によって射影軸を決定する方法に取り組んでいる．特に，カーネル関数の選択，カーネル関数に含まれる調整パラメータのデータに基づく客観的な推定法など様々な観点から研究を推進中である．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究の目的とする大規模・超高次元データ集合の背後に潜む情報やパターンを高効率に抽出する新たな解析手法の提唱と関連する理論構築を目指して，主としてL1型正則化モデリング，ベイズ型スパースモデリングの研究に取り組み，一定の成果を挙げることができた．この研究成果を次元圧縮，識別・判別，パターン認識，クラスタリングなどへの研究の展開とより汎用性の高い柔軟な解析手法の提案を目指して，現在研究を推進中である．
以上の研究に対して，実際上重要な問題であるデータを発生した確率分布と想定したモデルを分離し，一般的かつ統一的な理論を構築するには，汎関数の枠組みで研究に取り組むことが必要となる．このようなアプローチは皆無で，現在，汎関数理論を含めて数学的成果をモデリングにどのように取り入れて理論を展開するかを研究中である．
|
| Strategy for Future Research Activity |
これまでの研究を通して L1型正則化モデリング，ベイズ型スパースモデリングには，モデリングの過程で本質的な役割を果たす正則化パラメータの決定法，超高次元化に伴って生じる計算上の問題点など，理論的・数値的にいくつかの解決しなければならない問題があることが明らかになった．これらの問題点を克服する研究と統一的な理論構築を目指して，主として以下に述べるような研究課題に引き続き取り組む．
１．統計的モデリングは，様々な自然現象・社会現象を捉えるために，データに基づいて現象の真の構造を近似するモデルを構築することを目的とする．従来のモデリング手法は，データを発生した真のモデルが想定したモデルの部分モデルとして含まれているとしていることを前提とすることが多いが，モデルは実際には真の現象構造の近似にすぎない．特に，データ数に比して極めて次元の高いデータに基づいて近似精度の良いモデルを想定するには，当該分野の知識を有効に利用する必要がある．この問題をベイズアプローチによってどのようにモデリングのプロセスに取り込み，現象予測に有効に機能するモデルを構築することが可能かを，これまでの研究実績を継続，発展させて研究する．
２．モデリングに本質的な正則化項に含まれる正則化パラメータの選択に対しては，クロス・バリデーションが主として用いられているが，様々な問題点があり，これに替わる有効なモデル評価基準を情報量，ベイズアプローチに基づいて予測の観点から構築する．
本研究では，有限個のデータからの情報をもとにモデルを想定し，その近くにデータを生成した真の構造があるという設定のもとで理論を展開し，新たなモデル評価基準を構築し，より実際的な解析手法の研究を推進中である．そのための有効な理論と考えられる汎関数に基づく理論と数学的成果，さらに計算アルゴリズムを機能的に融合した方法について引き続き研究を推進する．
|
Research Products
(5 results)
