2020 Fiscal Year Annual Research Report
半解析リサンプリング法の開発と整備：信頼性評価への統計力学的アプローチ
| Project/Area Number |
17H00764
|
|---|
| Research Institution | The University of Tokyo |
|---|
Principal Investigator |
樺島 祥介 東京大学, 大学院理学系研究科(理学部), 教授 (80260652)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
小渕 智之 京都大学, 情報学研究科, 准教授 (40588448)
金森 敬文 東京工業大学, 情報理工学院, 教授 (60334546)
|
|---|
| Project Period (FY) |
2017-04-01 – 2022-03-31
|
| Keywords | リサンプリング / 交差検証法 / ブートストラップ法 / レプリカ法 / 平均場近似 / 確率伝搬法 / 期待値伝搬法 / ランダム行列 |
|---|
| Outline of Annual Research Achievements |
以下の結果を得た．
【課題１】交差検証法：一般化線形モデルに対して，推定に用いるモデルを推定すべき変数に関する（因数分解され
た）事前分布と(因数分解された）尤度関数の積に分解し，確率伝搬法とガウス近似を組み合わせることで計算困難を回避する期待値伝搬法にもとづいて評価する近似推論法を開発した．また，説明変数の集合を表す行列（計画行列）が回転不変な行列アンサンブルからの典型サンプルである場合に対して，そうしたアルゴリズムが収束するための条件を理論的に明らかにした．その結果の一部を国際会議IEEE International Symposium on Information Theory で発表した．
【課題２】ブートストラップ法：L1正則化項付き線形回帰に対して，説明変数の集合を表す行列（計画行列）の各要素が必ずしも独立に同一の分布に従わない場合に，残差に対してブートストラップを行う residual bootstrap 法を半解析的に実行する方法について検討を行なった．
【課題３】stability selection：L1正則化項付き線形回帰に対して，説明変数の集合を表す行列（計画行列）の各要素が必ずしも独立に同一の分布に従わない場合に stablity selection を半解析的に実施する方法を開発した．その結果の一部をJournal of Statistical Mechanics: Theory and Experiment 誌で発表した．また，得られたアルゴリズムにより得られる性能を理論的に分析するための方法について検討すべき課題の洗い出しを行なった．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
関連する先行研究では，従来，説明変数が独立で同一の分布から生成されている状況を想定したものが多数であったが，本研究では，期待値伝搬法を用いることにより，そうした仮定が成立しない場合でもかなり広い範囲で安定的に収束し，質の高い近似解が得られるアルゴリズムを開発することができた．このことは本研究の主要な目的が達成されたことを意味している．
|
| Strategy for Future Research Activity |
【課題１】交差検証法：昨年度までの研究で，説明変数の集合を表す行列（計画行列）の各要素が必ずしも独立・同分布に従わない場合に交差検証誤差を近似的に評価するための公式の目処がついた．今年度はそれを具体化するとともに結果の論文化を目指す．
【課題２】ブートストラップ法：昨年度までの研究で，固定された説明変数に対して応答変数のみをbootstrap する residual bootstrap に対する半解析的近似公式の目処がついた．今年度はそれを具体化するとともに結果の論文化を目指す．
【課題３】stability selection：昨年度までの研究で，L1正則化項付き一般化線形モデルに対して，説明変数の集合を表す行列（計画行列）の各要素が必ずしも独立・同分布に従わない場合に対する stability selection の半解析的評価法を開発した．今年度はこの公式にもとづき，モデル問題に対して stability selection によって達成される変数選択の性能を理論的に評価し結果の論文化を目指す．
|
