層別逆回帰法を用いた説明変量空間の次元縮小に関する研究

• Project/Area Number: 14658081
• Research Category: Grant-in-Aid for Exploratory Research
• Allocation Type: Single-year Grants
• Research Field: Statistical science
• Research Institution: Hokkaido University
• Principal Investigator: 水田 正弘 北海道大学, 情報基盤センター, 教授 (70174026)
• Project Period (FY): 2002 – 2004
• Project Status: Completed (Fiscal Year 2004)
• Budget Amount: ¥2,900,000 (Direct Cost: ¥2,900,000); Fiscal Year 2004: ¥800,000 (Direct Cost: ¥800,000); Fiscal Year 2003: ¥1,000,000 (Direct Cost: ¥1,000,000); Fiscal Year 2002: ¥1,100,000 (Direct Cost: ¥1,100,000)
• Keywords: 非線形回帰 / 射影追跡 / 説明変量選択 / 独立成分分析 / 計算機指向手法 / 分布に依存しない手法 / 射影指標 / 正規分布 / 分布間の距離 / 射影追跡法

Research Abstract

データの説明変数が多い場合における回帰分析について、従来から説明変数空間の次元を減らす方法が提案されている。その1つとして、Li, K.C.(1991;JASA)は非常に一般的な回帰モデルの仮定のもとに説明変数の次元を縮小する層別逆回帰法を提案した。しかし、Liが提案した層別逆回帰法のアルゴリズム、さらに他の研究者により提案されたアルゴリズムでは、非常に単純な人工データについても適切な結果が得られないことがある。このような背景のもとで、回帰分析における実用的な説明変数空間の次元縮小を目指し、層別逆回帰法に射影追跡を利用する方法の実用化と理論構築を本研究課題の目的とした。
説明変量空間の分布が正規分布であるという仮定のもとでは、射影追跡法を用いた層別逆回帰により、上記の問題を解決することができる。しかし、説明変量空間の分布が正規分布であると仮定できないときには、これによっても適切な次元縮小を実行できるとは限らない。そこで、射影追跡法を「正規分布からの離れた射影方向」ではなく、「ユーザが事前に設定した分布からの離れた射影方尚」を見出すように拡張する方法を開発した。ここで、ユーザが事前に設定した分布として正規分布を用いると、従来の射影追跡法となる。それを利用した層別逆回帰法を開発した。さらに、人工データおよび実際のデータに提案手法を適用させ、その有効性を評価した。大部分のデータに対して、本手法は適切な結果を得ることができた。

Research Products

• [Journal Article] 多次元空間への相対射影追跡法について (2004)
  • Author(s): 弘 新太郎, 小宮由里子, 南 弘征, 水田正弘
  • Journal Title: 応用統計学 33・3 Pages: 1-17
  • NAID: 10015582137
• [Journal Article] Relative Projection Pursuit and its Applications (2004)
  • Author(s): M.Mizuta, S.Hiro
  • Journal Title: Classification, Clustering, and Data Mining Applications 1 Pages: 123-139
• [Journal Article] Parallel Data Analysis and its Implementation on PC Cluster (2004)
  • Author(s): H.Minami, M.Mizuta
  • Journal Title: Proceedings of the 8th World Multiconference on Systemics, Cybernetics and Informatics Volume V Pages: 75-79
• [Journal Article] Clustering Methods for Functional Data (2004)
  • Author(s): M.Mizuta
  • Journal Title: Proceedings in Computational Statistics, Physica-Verlag 1 Pages: 1503-1510
• [Journal Article] Flexible regression modeling with RBF networks (2004)
  • Author(s): T.Shimamura, M.Mizuta
  • Journal Title: Proceedings in Computational Statistics, Physica-Verlag 1 Pages: 1791-1798
• [Journal Article] Dimension Reduction Methods (2004)
  • Author(s): M.Mizuta
  • Journal Title: Handbook of Computational Statistics, Springer 1 Pages: 565-589
• [Publications] M.Mizuta: "On Conditional Distribution of Sliced Inverse Regression Model"New Developments in Psychometrics. 347-354 (2003)
• [Publications] M.Mizuta: "An Extended Sliced Inverse Regression"Statistical Data Mining and Knowledge Discovery. 251-256 (2003)
• [Publications] S.Hiro, Y.Komiya, H.Minami, M.Mizuta: "Hall Type Projection Index for Relative Projection Pursuit"Bulletin of the International Statistical Institute. Book 1. 492-493 (2003)
• [Publications] T.Shimamura, H.Minami, Y.Komiya, M.Tada, T.Moriuchi, M.Mizuta: "Penalized Regression Modeling for Gene Expression Data Analysis"Bulletin of the International Statistical Institute. Book 2. 426-427 (2003)
• [Publications] 弘 新太郎, 小宮由里子, 南 弘征, 水田正弘: "経験分布関数を用いた新たな射影指標の提案"応用統計学. 32-1. 17-29 (2003)
• [Publications] 南 弘征, 水田正弘: "仮想並列計算機によるデータ解析の実行時間に関する考察"計算機統計学. 14・2. 111-122 (2002)
• [Publications] M.Mizuta: "An Extended Sliced Inverse Regression"C.Warren Neel Conference on Statistical Data Mining and Knowledge Discovery. 29 (2002)
• [Publications] M.Mizuta: "Relative Projection Pursuit"Data Analysis, Classification, and Related Methods. 131 (2002)
• [Publications] A.Ohgiya, Y.Komiya, H.Minami, M.Mizuta: "Search for the effective dimension reduction directions in Sliced Inverse Regression model with ICA"Proceedings of the 4th Conference of the Asian Regional Section of the International Association for Statistical Computing. 5-8 (2002)
• [Publications] Y.Sato, H.Minami, M.Mizuta: "Analysis of spam mail based on email contents"Proceedings of the 4th Conference of the Asian Regional Section of the International Association for Statistical Computing. 12-14 (2002)
• [Publications] S.Hiro, Y.Komiya, M.Mizuta: "Relative Projection Pursuit with an Extension of Friedman Index"Proceedings of the 4th Conference of the Asian Regional Section of the International Association for Statistical Computing. 238-241 (2002)