2007 Fiscal Year Annual Research Report
ハイパーパラメータ選択のための情報量規準の漸近的特性
| Project/Area Number |
19700265
|
|---|
| Research Institution | Hiroshima University |
|---|
Principal Investigator |
柳原 宏和 Hiroshima University, 大学院・理学研究科, 准教授 (70342615)
|
|---|
| Keywords | モデル選択 / 情報量規準 / 罰則付き尤度 / バイアス補正 |
|---|
| Research Abstract |
本研究の目的は,ハイパーパラメータ選択のための情報量規準の漸近的特性を調べることにある.ノンパラメトリックモデルでは,罰則付き対数尤度関数の最大化により最適化を行うことが通常よく用いられる手法であるが,罰則項を制御するハイパーパラメータにより結果が大きく異なってしまうため,その選択問題は:非常に重要な問題である 情報量規準のバイアス項がどの匿うな形で展開されているかを明らかにするため,未知ドラメータの推定に用いる関数とモデルの評価に用いる関数が異なる場合でのCross-Validation (CV; Stone, 1974) 規準のバイアスの展開式をn^<-1>項まで求めた.同様の計算でGeneralised lnformation Criterion (GIC; Konishi & Kitagawa, 1996)のバイアスの展開式もn^<-1>の項まで求められた。バイアス補正でのバイアスの漸近展開式を利用する方法ではなく,leave-one-out CV規準からleave-k-out CV規準までを重みを付けて足すことにより行った.バイアスをうまく補正するためには, この重みに関する係数をうまく選ぶ必要があり,これらの重みに関する係数の一般形を具体的に求め1また,提案したバイアス補正法と,繰り返しブートストラップよるバイアス補正法は非常に似たものとなり,新しいバイアス補正情報量規準での係数は繰り返しブートストラップ法によりドイアス補正を施した短準量での係数に収草することがわかった.
|
