2009 Fiscal Year Annual Research Report
ハイパーパラメータ選択のための情報量規準の漸近的特性
| Project/Area Number |
19700265
|
|---|
| Research Institution | Hiroshima University |
|---|
Principal Investigator |
柳原 宏和 Hiroshima University, 大学院・理学研究科, 准教授 (70342615)
|
|---|
| Keywords | モデル選択 / 情報量規準 / 罰則付き尤度 / バイアス補正 |
|---|
| Research Abstract |
本研究の目的は,ハイパーパラメータ選択のための情報量規準の漸近的特性を調べることにある.ノンパラメトリックモデルでは,罰則付き対数尤度関数の最大化により最適化を行うことが通常よく用いられる手法であるが,罰則項を制御するハイパーパラメータにより結果が大きく異なってしまうため,その選択問題は非常に重要な問題である.最適なハイパーパラメータは,リスク関数の推定値である情報量規準の最小化によって選ばれることが一般的である.この情報量規準はリスク関数の推定量であるため,より不偏性が強いものが一般的には良いとされる.前年度までに,leave-one-out CV規準からleave-κ-out CV規準までを重みを付けてバイアスを補正したバイアス補正CV規準を提案した.この規準量は計算時間かかかりすぎるという欠点があった.本年度では,計算時間の短縮のために,モデルや規準量を限定した下でバイアス補正を試みた.実際には正規性を仮定した多変量リッジ回帰におけるリッジパラメータの選択ためのCp規準において,バイアス補正を行ったが,このような状況では,バイアスを完全に除去した情報量規準が提案できることがわかった.
|
