• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2013 Fiscal Year Research-status Report

情報量規準最小化に基づくモデル選択法の理論的考察

Research Project

Project/Area Number 25540012
Research Category

Grant-in-Aid for Challenging Exploratory Research

Research InstitutionHiroshima University

Principal Investigator

柳原 宏和  広島大学, 理学(系)研究科(研究院), 准教授 (70342615)

Project Period (FY) 2013-04-01 – 2016-03-31
Keywords情報量規準 / モデル選択 / 大標本高次元漸近理論 / 一致性
Research Abstract

情報量規準最小化に基づくモデル選択法において,どの規準量を使用すれば良いかという問題は重要かつ深刻な問題である.情報量規準には,大きく分けて,赤池情報量規準(AIC)に代表される予測の精度を上げることを目的としたものと,ベイズ情報量規準(BIC)に代表される真のモデルを選ぶ頻度を上げることを目的としたものの二種類がある.漸近的に真のモデルを選ぶ確率が1となるような性質を一致性という.一般的に,BICは一致性を持つ規準量であり,AICは一致性を持たない規準量であることが知られている.この性質は標本数だけを無限大とする大標本漸近理論により得られたものであるが,パラメータ数が標本数に比べ比較的多い場合,この漸近理論による漸近近似の精度が悪くなることが知られている.観測値の次元数が大きいような高次元データにおいて,パラメータ数は次元数の2乗のオーダーの大きさなので,やはり大標本漸近理論では,漸近近似が悪くなる.そこで,一致性の評価に標本数だけでなく次元数も無限大とする大標本高次元漸近理論を用いて再評価を行い,そのような漸近枠組みにおいて,BICは真の構造により一致性を持たないことがあり,AICは標本数と次元数に依存して,一致性を持つことがあることが示された.以上の結果は,真の分布に正規性を仮定して導出された結果であるが,その正規性を外してもある程度同様な結果を得ることができることがわかった.また,正規性の下ではあるが,標本数と次元数だけでなく,候補のモデルの個数も無限大にするような漸近理論でも再評価を行い,AICが一致性を持つための条件はBICが一致性を持つための条件よりも緩いものになることがわかった.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

平成25年度の研究計画では,(1) 大標本漸近理論に基づく漸近予測誤差をカルバック=ライブラー (KL) 距離の意味で最小にする規準量を明らかにする,(2) 正規多変量線形回帰モデルにおいて漸近予測誤差をKL距離の意味で最小にする規準量を明らかにすることが目標であった.25年度ではその目標を完全に達成することはできなかったが,その代わり,26年度以降の研究計画で目標としていた高次元漸近理論に基づいた情報量規準の一致性について,多変量線形モデルに限定した結果ではあるが,真のモデルに正規性を仮定した下での一致性を満たすための罰則項の条件とさらに正規性の仮定を外したもとでの一致性を満たすための罰則項の条件も得ることができ,概ね順調に研究計画が進んでいると思われる.

Strategy for Future Research Activity

先に述べたように,一致性に関する研究は進んでいるが,漸近予測誤差をKL距離の意味で最小にする規準量を明らかにする研究はまださほど進んでいない.26年度では,まず大標本漸近理論の枠組みで,より一般的なモデルで,漸近予測誤差をKL距離の意味で最小にするための規準量の罰則項の条件を明らかにする.また,大標本高次元漸近理論の枠組みにおいては,正規性を仮定した多変量線形回帰モデルにおいて,漸近予測誤差をKL距離の意味で最小にするための情報量の罰則項の条件を明らかにする.その際,分散共分散行列の逆行列のトレースの確率収束先が必要となる.これは真の分布にも正規分布を仮定するならば難しいことではないが,真の分布に正規性を仮定しない場合,非常に難しい.そこでまず,そのトレースの確率収束先を明らかにし,その後,罰則項の条件を求めることにする.

Expenditure Plans for the Next FY Research Funding

飛行機の料金の変動で価格に差異がでて,残ってしまった.金額が少ないため,無理に使用するよりは次年度にまとめて使用する方が効率的であると判断した.
必要な文房具に使用する.

  • Research Products

    (6 results)

All 2013

All Journal Article (3 results) (of which Peer Reviewed: 3 results) Presentation (3 results)

  • [Journal Article] Bias-corrected AIC for selecting variables in Poisson regression models2013

    • Author(s)
      Kamo, K., Yanagihara, H. & Satoh, K.
    • Journal Title

      Communication in Statistics Theory and Method

      Volume: 42 Pages: 1911-1921

    • DOI

      10.1080/03610926.2011.600504

    • Peer Reviewed
  • [Journal Article] A class of cross-validatory model selection criteria2013

    • Author(s)
      Yanagihara, H., Yuan, K.-H., Fujisawa, H. & Hayashi, K.
    • Journal Title

      Hiroshima Mathematical Journal

      Volume: 43 Pages: 149-177

    • Peer Reviewed
  • [Journal Article] Choosing the number of repetitions in the iterative plug-in optimization method for the ridge parameters in multivariate generalized ridge regression2013

    • Author(s)
      Nagai, I., Fukui, K. & Yanagihara, H.
    • Journal Title

      Bulletin of Informatics and Cybernetics

      Volume: 45 Pages: 25-35

    • Peer Reviewed
  • [Presentation] Effects of nonnormality on a consistency property of several information criteria for multivariate linear regression models when the dimension and the sample size are large2013

    • Author(s)
      柳原宏和
    • Organizer
      2013年度統計関連学会連合大会
    • Place of Presentation
      大阪大学
    • Year and Date
      20130909-20130911
  • [Presentation] A consistency property of the AIC for multivariate linear models when the dimension, the sample size and the number of explanation variables are large2013

    • Author(s)
      若木宏文・柳原宏和・藤越康祝
    • Organizer
      2013年度統計関連学会連合大会
    • Place of Presentation
      大阪大学
    • Year and Date
      20130909-20130911
  • [Presentation] Conditions for consistency of a log-likelihood-based information criterion in high-dimensional multivariate linear regression models under the violation of normality assumption2013

    • Author(s)
      Yanagihara, H.
    • Organizer
      22nd. International Workshop on Matrices and Statistics
    • Place of Presentation
      University of Toronto, Canada
    • Year and Date
      20130812-20130815

URL: 

Published: 2015-05-28  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi