研究概要 |
本研究の目的は, ハイパーパラメータ選択のための情報量規準の漸近的特性を調べることにある. ノンパラメトリックモデルでは, 罰則付き対数尤度関数の最大化により最適化を行うことが通常よく用いられる手法であるが, 罰則項を制御するハイパーパラメータにより結果が大きく異なってしまうため, その選択問題は非常に重要な問題である. 最適なハイパーパラメータは, リスク関数の推定値である情報量規準の最小化によって選ばれることが一般的である. この情報量規準はリスク関数の推定量であるため, より不偏性が強いものが一般的には良いとされる. 前年度は, 未知パラメータの推定に用いる関数とモデルの評価に用いる関数が異なる場合で, 情報量規準のひとつであるCross-Validation(CV ; Stolle, 1974)規準のバイアスの展開式をn^<-1>項まで求めた. 本年度では, 前年度に求めた展開式を利用して, 新たなバイアス補正CV規準を提案した. この新たなCV規準は, 前年度に提案した, leave-one-out CV規準からleave-k-out CV規準までを重みを付けてバイアスを補正したバイアス補正CV規準と同様に, 具体的な展開式を求めなくてもバイアス補正規準を計算することができると言った利点がある. また, バイアスのオーダーはより低次になるが, 前年度で提案した規準量よりも簡単に求めることができるといった利点を持つ.
|