2014 Fiscal Year Annual Research Report
正則化法によるスパース推定と超高次元データへの応用
| Project/Area Number |
24700277
|
|---|
| Research Institution | Osaka University |
|---|
Principal Investigator |
廣瀬 慧 大阪大学, 基礎工学研究科, 助教 (40609806)
|
|---|
| Project Period (FY) |
2012-04-01 – 2015-03-31
|
| Keywords | スパース推定 / 因子分析モデル / 因子回帰モデル / モデル選択 |
|---|
| Outline of Annual Research Achievements |
今年度は，昨年度提案した因子分析モデルのスパース推定法を改良し，さらに因子分析モデルを回帰モデルに拡張した因子回帰モデルに関する研究に取り組んだ．
(1) 昨年度は，因子分析モデルのスパース推定を行うと直感に合わない解が得られることを数値的に示した．そこでまず，その現象の解明に取り組んだ．すると，因子負荷行列が完全単純構造を有するとき，本当は因子間相関があるにも関わらず因子間相関を仮定しないモデルで推定すると，全く違う因子の構造が抽出されるということを理論的に示すことができた．この結果より，Lassoタイプのスパース推定法によって因子分析を行うときは，因子間相関を入れる事が極めて重要であるということがわかった．さらに，実際に因子間相関を入れたモデルのスパース推定法及びそのアルゴリズムを提案した．実際のデータに適用すると，多くのベンチマークデータに対して，因子間相関を仮定しない場合にはうまく因子を抽出できないが，因子間相関を仮定すると適切な因子が抽出される傾向にあることがわかった．
(2) Rパッケージfancのアップデートを行った．まず，因子間相関を仮定した場合のパラメータの推定をできるようにした．また，高次元データに対し，複数の調整パラメータに対する解を可視化するため，ヒートマップに基づくグラフィカルツールを追加した．
(3) 因子分析モデルの拡張である因子回帰モデルのスパース推定を試みた．因子回帰モデルは，データの次元圧縮と回帰を同時に行う方法であるが，最尤推定を行うと，通常の回帰モデルの最尤推定と同様に，変数間の相関が大きい時に多重共線性の問題が発生する．そこで，どのような場合に多重共線性の問題が発生するのかを探ったところ，因子分析で独自分散が負と推定される不適解問題と対応することがわかった．さらに，多重共線性の問題に対処するための罰則項を加えた，罰則付き最尤法を考案した．
|
-
[Journal Article] Full information maximum likelihood estimation in factor analysis with a lot of missing values2015
Author(s)
Hirose, K., Kim, S., Kano, Y., Imada, M., Yoshida, M. and Matsuo, M.
-
Journal Title
Journal of Statistical Computation and Simulation
Volume: 印刷中
Pages: 印刷中
DOI
Peer Reviewed
-
-
-
-
