2019 Fiscal Year Research-status Report
混合整数最適化を用いた制約付き変数選択による高精度パラメータ推定
| Project/Area Number |
17K12983
|
|---|
| Research Institution | University of Tsukuba |
|---|
Principal Investigator |
高野 祐一 筑波大学, システム情報系, 准教授 (40602959)
|
|---|
| Project Period (FY) |
2017-04-01 – 2021-03-31
|
| Keywords | 変数選択 / 最適化 / アルゴリズム |
|---|
| Outline of Annual Research Achievements |
回帰分析や判別分析における変数選択のための厳密解法として，混合整数最適化が近年注目を集めている．本年度は交差確認規準による変数選択手法と，確率的離散一次法による高速解法の開発に取り組んだ．
他の統計的規準と比較すると，交差確認規準は厳しい仮定を必要とせず多くの状況で有効に機能することが期待される．本研究では，交差確認規準による最良変数選択問題を２段階最適化問題として定式化し，その問題をより求解が容易な混合整数最適化問題に変形する方法を開発した．数値実験では，他の統計的規準による解法やL1正則化法と性能を比較し，提案手法は特にデータに多くのノイズが含まれるような状況で，選択変数の正確性と予測精度の両面で優れた性能を示すことを検証した．
変数選択問題に対する高速解法として，2016年の先行研究で離散一次法が提案された．しかしながらこの解法は局所的な解に到達するとそこから抜け出すことができず，そのために得られる解の質が悪いという問題点がある．本研究では，探索点列に確率変動を加えて広範囲の解空間を探索することが可能な確率的離散一次法を提案した．さらに，探索方向への移動幅を最適化することで収束性能を向上させ，L2罰則項を導入することで予測性能を向上させた．数値実験では，人工データと公開データを利用して提案手法の性能を検証した．提案手法は既存の離散一次法を大きく上回る計算性能を示し，ステップワイズ法やL1正則化法などの他の変数選択手法よりも優れた予測性能を示した．
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
交差確認規準による変数選択手法と，確率的離散一次法による高速解法の開発に成功し，当初の計画を超える研究成果を得ることができた．
|
| Strategy for Future Research Activity |
今後は，構造正則化に基づく制約付き推定問題の研究に取り組む．最初に各種の問題に対して，構造正則化制約付き推定モデルを定式化する．次に構造正則化制約付き推定モデルに対する求解アルゴリズムを開発する．
その後は数値実験を実施して提案手法の有効性を検証する．人工データや公開データを利用して提案手法の推定精度を検証し，既存手法との分析結果の差異や妥当性を考察する．
|
| Causes of Carryover |
論文執筆作業に遅れが生じたために次年度使用額が生じた．次年度は論文を完成させ，その成果発表に助成金を使用する．
|
