ノンパラメトリック回帰による多次元構造の探索:推定方式の改良と実装

• Project/Area Number: 17700280
• Research Category: Grant-in-Aid for Young Scientists (B)
• Allocation Type: Single-year Grants
• Research Field: Statistical science
• Research Institution: Osaka University
• Principal Investigator: 坂本 亘 Osaka University, 大学院・基礎工学研究科, 准教授 (70304029)
• Project Period (FY): 2005 – 2007
• Project Status: Completed (Fiscal Year 2007)
• Budget Amount: ¥3,100,000 (Direct Cost: ¥3,100,000); Fiscal Year 2007: ¥800,000 (Direct Cost: ¥800,000); Fiscal Year 2006: ¥1,500,000 (Direct Cost: ¥1,500,000); Fiscal Year 2005: ¥800,000 (Direct Cost: ¥800,000)
• Keywords: 非線形構造の抽出 / 交互作用の推定 / MARS / 回帰スプライン / 罰則付き接近法 / 経験Bayes法 / 周辺尤度 / 変動の分解 / ノンパラメトリック回帰 / 非線形構造の探索 / 罰則付き尤度接近法

Research Abstract

本研究は、非線形構造の探索・診断という観点からノンパラメトリック回帰の方法論を再整備し、ノンパラメトリック回帰をより強力な探索的データ解析の道具にすることを目的とした。とくに交互作用効果を含む多次元ノンパラメトリック回帰モデルの有用性を探った。
前年度までに提案・開発した、多変量適応的回帰スプライン(MARS)における経験Bayes法による基底関数および節点の選定方式は、Friedman による従来の方式(一般化交差確認法の利用)での回帰構造の解釈などの難点を克服することを目標としている。これについて、本年度は以下のような研究を行った。
1.変数寄与の測度の再検討
回帰構造の解釈に必要となる、各々の説明変数の寄与(主効果・交互作用効果)の測度について、従来の「相対重要度」はかなりアドホックな定義であった。より合理的・包括的な測度として、分散分析などで用いられる平方和分解に類似した変動の分解に基づいて、条件付き分散を用いて定義することを検討した。
2.シミュレーションなどによる性能評価
前述の条件付き分散に基づく測度を用いて、従来の方式(Friedmanが提案した交差確認法などによる方法)に比べて、回帰構造、とくに交互作用効果を正しく抽出できることを実証した。

Research Products

• [Journal Article] MARS: selecting basis functions and knots with an empirical Bayes method (2007)
  • Author(s): Wataru Sakamoto
  • Journal Title: Computational Statistics 22 Pages: 583-597
  • Peer Reviewed
• [Journal Article] Extracting non-linear additive regression structure with power-additive smoothing splines (2007)
  • Author(s): Wataru Sakamoto
  • Journal Title: Journal of the Japanese Society of Computational Statistics 20(掲載予定)
  • NAID: 110006684313
  • Peer Reviewed
• [Journal Article] MARS : selecting basis and knots with the empirical Bayes method (2006)
  • Author(s): Wataru Sakamoto
  • Journal Title: Compstat 2006 : Proceedings in Computational Statistics (CD-ROM) Pages: 1397-1404
• [Journal Article] MARS : selecting basis and knots with the empirical Bayes method (2005)
  • Author(s): Sakamoto, W.
  • Journal Title: Proceedings of the 5th IASC Asian Conference on Statistical Computing Pages: 135-138
• [Presentation] A simulation study on evaluating contribution of variables With empirical Bayes MARS (2007)
  • Author(s): Wataru Sakamoto
  • Organizer: ISI2007 (1nternational Statistical Institute 56th Session)
  • Place of Presentation: リスボン(ポルトガル)
  • Year and Date: 2007-08-24