• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2018 Fiscal Year Annual Research Report

高次元多変量データにおけるモデル選択規準の一致性

Research Project

Project/Area Number 18J12123
Research InstitutionHiroshima University

Principal Investigator

小田 凌也  広島大学, 理学研究科, 特別研究員(DC2)

Project Period (FY) 2018-04-25 – 2020-03-31
Keywords変数選択 / 高次元一致性 / 多変量線形回帰モデル / 正準判別分析モデル / 統計数学
Outline of Annual Research Achievements

複数の目的変数と説明変数の間の関係を記述した多変量線形回帰モデルと正準判別分析モデルにおいて, 有効な説明変数を選ぶ変数選択問題を扱う. そのような変数選択法に用いられる従来の手法として, AICやCp規準などの変数選択規準をすべての説明変数の組に対して計算し変数選択規準が最小となる変数の組み合わせを最適な変数とする変数選択規準総当たり法が挙げられる. しかし, 説明変数ベクトルの次元数が大きい場合, 変数選択規準総当たり法は物理的に実行不可能であり, 適切な漸近理論の下で真の変数の組み合わせが最適な変数として選ばれる確率が漸近的に1となる性質, 即ち, 一致性の議論はされていない. 本研究の目的は標本数だけでなく目的変数の次元数または説明変数の次元数が大きな高次元データに対しても高速で一致性をもつ変数選択法を提案することである.
多変量線形回帰モデルにおいては, 一般化Cp規準を用いた簡便な変数選択法に注目して新たな変数選択法を提案し, 標本数は必ず無限大であるが目的変数の次元数, 説明変数の次元数は無限大でもそうでなくてもよいという漸近理論の下で提案手法が一致性をもつことを示した. さらに, 提案手法を実行するために必要な行列演算を工夫することで計算の高速化も行った. 数値実験により, 提案手法は次元数の大小に依らず標本数が大きければ高い確率で真の変数の組み合わせを選択し, Group Lasso型罰則項を用いた罰則付き推定法よりも計算時間がかなり短いことを確認した.
また正準判別分析においても, 一般化情報量規準を用いた簡便な変数選択法に注目し, 標本数は必ず無限大であるが説明変数の次元数は無限大でもそうでなくてもよいという漸近理論の下で一致性をもつ高速な変数選択法を提案した.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

当初計画していたのは多変量線形回帰モデルに対してのみであったが, 正準判別分析モデルにおいても, 次元数の大小に依らず標本数が大きければ高い確率で真の変数の組み合わせを選択する高速な変数選択法を提案することができたから.

Strategy for Future Research Activity

本研究課題の目的は様々な多変量モデルにおいて高次元下でも一致性をもつ変数選択法を提案することにある. 多変量線形回帰モデル, 正準判別分析モデルにおいては高次元下でも一致性をもち高速な変数選択規準を提案することができた. 今後, 他の多変量モデル, 例えば正準相関分析モデルやGMANOVAモデルなどにおいても変数選択法を提案し, その提案手法の高次元下での一致性について取り組むことは重要である. また, 本研究課題によって提案される変数選択法とスパース推定による変数選択法に関する変数選択法の性能を数値的に比較することも重要である.

  • Research Products

    (14 results)

All 2019 2018 Other

All Int'l Joint Research (1 results) Journal Article (6 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 1 results,  Open Access: 5 results) Presentation (7 results) (of which Int'l Joint Research: 2 results,  Invited: 1 results)

  • [Int'l Joint Research] スウェーデン農業科学大学/リンショーピング大学(スウェーデン)

    • Country Name
      SWEDEN
    • Counterpart Institution
      スウェーデン農業科学大学/リンショーピング大学
  • [Journal Article] A fast and consistent variable selection method for high-dimensional multivariate linear regression with a large number of explanatory variables2019

    • Author(s)
      Oda, R., Yanagihara, Y.
    • Journal Title

      Hiroshima Statistical Research Group Technical Report

      Volume: TR19-01

    • Open Access
  • [Journal Article] Strong consistency of log-likelihood-based information criterion in high-dimensional canonical correlation analysis2019

    • Author(s)
      Oda, R., Yanagihara, H., Fujikoshi, Y.
    • Journal Title

      Hiroshima Statistical Research Group Technical Report

      Volume: TR19-02

    • Open Access
  • [Journal Article] Growth curve model with bilinear random coefficients2019

    • Author(s)
      Imori, S., von Rosen, D., Oda, R.
    • Journal Title

      Hiroshima Statistical Research Group Technical Report

      Volume: TR19-03

    • Open Access / Int'l Joint Research
  • [Journal Article] A consistent variable selection method in high-dimensional canonical discriminant analysis2019

    • Author(s)
      Oda, R., Suzuki, Y., Yanagihara, H., Fujikoshi, Y.
    • Journal Title

      Hiroshima Statistical Research Group Technical Report

      Volume: TR19-04

    • Open Access
  • [Journal Article] Asymptotic null and non-null distributions of test statistics for redundancy in high-dimensional canonical correlation analysis2018

    • Author(s)
      Oda, R.,Yanagihara, H., Fujikoshi, Y.
    • Journal Title

      Random Matrices: Theory and Applications

      Volume: 08 Pages: 1950001~1950001

    • DOI

      10.1142/S2010326319500011

    • Peer Reviewed
  • [Journal Article] A high-dimensional bias-corrected AIC for selecting response variables in multivariate calibration2018

    • Author(s)
      Oda, R., Mima, Y., Yanagihara, H., Fujikoshi, Y.
    • Journal Title

      Hiroshima Statistical Research Group Technical Report

      Volume: TR18-10

    • Open Access
  • [Presentation] 多変量線形回帰における Adaptive Group Lasso 型罰則付き推定法2019

    • Author(s)
      小田凌也, 栁原宏和
    • Organizer
      日本行動計量学会岡山地域部会第71回研究会
  • [Presentation] A consistent variable selection method in the high-dimensional multiple responses linear regression2018

    • Author(s)
      Oda, R., Yanagihara, H.
    • Organizer
      The 5th Institute of Mathematical Statistics Asia Pacific Rim Meeting
    • Int'l Joint Research
  • [Presentation] 多変量線形回帰における Group Lasso 型罰則項を用いた推定法2018

    • Author(s)
      小田凌也, 栁原宏和
    • Organizer
      統計サマーセミナー2018
  • [Presentation] Group Lasso 型罰則項を伴う重み付き残差平方和の最小化に基づく多変量線形回帰モデルの推定2018

    • Author(s)
      小田凌也, 栁原宏和
    • Organizer
      2018年度統計関連学会連合大会
  • [Presentation] 正準判別分析における一致性を持つ高次元変数の選択法2018

    • Author(s)
      鈴木裕也, 小田凌也, 栁原宏和, 藤越康祝
    • Organizer
      2018年度統計関連学会連合大会
  • [Presentation] Sparse Group Lasso を用いた GMANOVA モデルの変数選択2018

    • Author(s)
      永井勇, 小田凌也, 栁原宏和
    • Organizer
      2018年度統計関連学会連合大会
  • [Presentation] Growth curve model with bilinear random coefficient2018

    • Author(s)
      Imori, S., von Rosen, D., Oda, R.
    • Organizer
      CMStatistics 2018
    • Int'l Joint Research / Invited

URL: 

Published: 2019-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi