2019 Fiscal Year Research-status Report
A fast and simple consistent variable selection method for high-dimensional multivariate data
| Project/Area Number |
18K03415
|
|---|
| Research Institution | Hiroshima University |
|---|
Principal Investigator |
柳原 宏和 広島大学, 理学研究科, 教授 (70342615)
|
|---|
| Project Period (FY) |
2018-04-01 – 2022-03-31
|
| Keywords | 変数選択 / モデル選択規準 / 一致性 / 多変量線型回帰モデル |
|---|
| Outline of Annual Research Achievements |
目的変数ベクトルの次数が大きい場合での多変量回帰モデルにおいて，モデルの複雑さに対する罰則調整項を伴う一般化Cp規準の最小化に基づく変数選択問題を取り扱う．一般化Cp規準は，Mallows(1973)により提案されたCp規準やFujikoshi and Satoh(1997)により提案された Modified Cp 規準など多くの既存のモデル選択規準を特別な場合として含む，一般的なモデル選択規準である．変数選択問題において，真のモデルが最適なモデルとして選ばれる確率が標本数を無限大としたときに1に収束する性質である，一致性が重要なものとなる．一致性を評価する上で，従来の漸近理論では説明変数の個数は固定した下で，標本数，もしくは標本数と目的変数ベクトルの次元数を無限大としていた．しかしながら，変数選択とは候補となる説明変数が多いときに行うものであり，そのため，往々にして説明変数の個数は多くなる傾向がある．そのため，説明変数の個数も無限大になるかもしれないという漸近理論により一致性を評価する必要がある，本研究において，どのような非心パラメータ行列であっても一致性を持つための罰則調整項の条件を，標本数は無限大になるが，目的変数ベクトルの次元と候補となる説明変数の個数は無限大になってもならなくてもよいという漸近理論の下で導出した．この結果を利用して，目的変数ベクトルの次元や説明変数の個数の大小によらず高い確率で真のモデルを最適なモデルとして選択できることが期待できる新たなモデル選択規準を提案した．さらに数値実験により，目的変数ベクトルの次元や説明変数の個数の大小によらず，ある程度大きな標本数の下で，どのような非心パラメータ行列であっても，高い確率で真のモデルを最適なモデルとして選択できていること，またその確率が，Lassoなどの従来の変数選択手法よりも高くなることが確かめられた．
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
研究課題では，説明変数の個数も無限大とする漸近理論より一致性を保証するモデル選択規準の提案であり，昨年度はその漸近理論により一致性を評価し，新たな変数選択法を提案できた．また，本研究課題で提案する手法の対抗馬であるスパース推定にもとづく変数選択との比較のための数値実験も行い，提案手法の有用性を確かめることができた．また，重回帰モデルだけでなく，正準相関分析における変数選択でも同様な変数選択法を提案した．以上のことから，当初の予定以上に進展しているとした．
|
| Strategy for Future Research Activity |
変数選択では一致性だけでなく，漸近ロス有効性や漸近平均有効性も重要な特性である．一般化Cp規準が標本数は無限大とするが，目的変数の次元数は無限大でもそうでなくてもどちらでもよいという漸近理論により漸近ロス有効性と平均ロス有効性を持つための罰則調整項も条件を導出し，その結果から，どのような非心パラメータ行列であっても漸近ロス有効性と漸近平均有効性を持つ一般化Cp規準を提案する．
|
| Causes of Carryover |
3月に参加する予定であった研究集会が中止なり，計画が当初に考えていたものとずれが生じたため．差額分と合わせ，研究発表・情報収集等の旅費に使用する．
|
