• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2014 Fiscal Year Research-status Report

数理計画法による特徴選択の厳密化

Research Project

Project/Area Number 26560165
Research InstitutionTokyo University of Agriculture and Technology

Principal Investigator

宮代 隆平  東京農工大学, 工学(系)研究科(研究院), 准教授 (50376860)

Project Period (FY) 2014-04-01 – 2017-03-31
Keywords特徴選択 / 数理工学 / アルゴリズム / 統計 / OR
Outline of Annual Research Achievements

平成26年度の研究においては,以下の課題の解明に努め,下記に示す研究成果を得た.
まず,変数選択問題の中規模データに対する計算機実験,および数値不安定性の解析を行った.この分野で標準的に使用されているベンチマーク問題のうち,中規模データに対して数理計画法による特徴選択の計算機実験を行った.その結果として,現在の手法では厳密解が求まるサイズは説明変数の個数が30~40程度の問題までということが判明した.また,数値不安定性については,研究開始段階で予想した通り,数値計算における内点法の不安定性によるものだということが確かめられた.
次に,開発する数理計画法による特徴選択アルゴリズムの有効性を示すために,従来のステップワイズ法によるアルゴリズムの実装および計算機実験を行った.また従来のステップワイズ法を拡張し,多少の計算時間の増大を許容し近傍を拡大して計算機実験を行った.それらの結果を用いて,単純なステップワイズ法では最適解が求まらないが,近傍を拡大すると最適解が求められるインスタンスについて,その特徴を分析した.
また,研究当初は特徴選択の評価指標としてAIC, BIC, 自由度調整済決定係数などを用いる予定であったが,統計学の分野で古くから知られているMallowsのC_pと呼ばれる指標については,数理計画法を用いてAICなどより高速に厳密解が求められるモデルを開発した.計算機実験の結果,このモデルでは,分枝限定法の計算が終了しなくても初期の段階で非常に質の良い解が求められることが確かめられた.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

平成26年度の研究実施計画に照らし合わせ,「おおむね順調に進展している」と自己評価する.理由は以下に述べる通りである.
平成26年度研究実施計画であげていた4つのポイントのうち,「中規模データに対する計算機実験,特に数値不安定性の解析」「従来の特徴選択アルゴリズムの調査および実装」「小規模データに対する厳密な回帰モデルの求解」の3点についてはほぼ計画通りに進行した.特に,従来の特徴選択アルゴリズムについては,拡張した実装を行い,従来法との差異についても計算機実験のデータを得た.
また「Special Ordered Set type 2 (SOS type 2) による高速化」については実装を行ったものの,予想していたほどの高速化は達成できなかった.この原因について解析を行ったところ,数値不安定性に原因があることが判明した.SOS type 2による定式化は,本研究課題の場合にはSOS type 1による定式化より理論的に高速であることが示せるが,それ以上に今回の実験では数値的不安定性が計算時間に大きな影響を及ぼすことが確認された.今後はより数値的不安定性の回避に重点を置いたアルゴリズムの開発を行う予定である.
一方で,研究の当初予定していなかったMallowsのC_pと呼ばれる情報量規準について,整数二次計画法による定式化の構築を行った.この定式化では計算に単体法を使用することができ,数値的不安定性を著しく減少させることが可能になった.また,分枝限定法の初期段階において非常に質の良い許容解を求められることを確認した.

Strategy for Future Research Activity

平成26年度に実施した研究により,本研究課題における数理計画法を利用したアルゴリズムでは,数値的不安定性の回避を重視することが計算時間の短縮および良質な解の発見に強くつながっていることが判明した.そこで,研究当初想定していた,二次錐計画法を利用したアルゴリズムにこだわることなく,可能な場合には(近似を利用した)線形計画法,あるいは二次計画法など,数値的不安定性の少ないアルゴリズムの利用を考慮していく.
また,研究当初に予定していた線形回帰問題だけではなく,ロジスティック回帰問題など,より広い範囲の特徴選択問題についてのアルゴリズム開発も視野に入れて研究を進めていく予定である.

Causes of Carryover

1万円未満の端数であり,ほぼ当初の執行予定額通りである.

Expenditure Plan for Carryover Budget

1万円未満の端数であり,次年度の当初予定に影響を与えないため,使用計画を変更することなく研究を行う.

  • Research Products

    (6 results)

All 2015 2014

All Journal Article (2 results) (of which Peer Reviewed: 1 results,  Acknowledgement Compliant: 1 results) Presentation (4 results)

  • [Journal Article] Subset selection by Mallows' Cp: a mixed integer programming approach2015

    • Author(s)
      Ryuhei Miyashiro, Yuichi Takano
    • Journal Title

      Expert systems with applications

      Volume: 42 Pages: 325-331

    • DOI

      10.1016/j.eswa.2014.07.056

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] 混合整数二次錐計画法を用いた回帰式の変数選択2014

    • Author(s)
      宮代隆平,高野祐一
    • Journal Title

      京都大学数理解析研究所講究録

      Volume: 1879 Pages: 222-229

  • [Presentation] Improvement on a Stepwise Method in Variable Selection Problem in Linear Regression2015

    • Author(s)
      Ryuta Tamura, Ryuhei Miyashiro
    • Organizer
      ICT-ISPC 2015
    • Place of Presentation
      東京農工大学(東京都・小金井市)
    • Year and Date
      2015-05-23 – 2015-05-24
  • [Presentation] 多重共線性を考慮した回帰式の変数選択―混合整数半正定値計画問題を用いた解法―2014

    • Author(s)
      小林健,高野祐一,宮代隆平,中田和秀
    • Organizer
      最適化アルゴリズムの進展:理論・応用・実装
    • Place of Presentation
      京都大学数理解析研究所(京都府・京都市)
    • Year and Date
      2014-09-24 – 2014-09-25
  • [Presentation] MallowsのCp規準による回帰式の変数選択:混合整数二次計画法を用いた解法2014

    • Author(s)
      高野祐一,宮代隆平
    • Organizer
      FIT2014 第13回情報科学技術フォーラム
    • Place of Presentation
      筑波大学(茨城県・つくば市)
    • Year and Date
      2014-09-03 – 2014-09-05
  • [Presentation] 多重共線性を考慮した回帰式の変数選択―混合整数半正定値計画問題を用いた解法―2014

    • Author(s)
      小林健,高野祐一,宮代隆平,中田和秀
    • Organizer
      日本オペレーションズ・リサーチ学会 2014年秋季研究発表会
    • Place of Presentation
      北海道科学大学(北海道・札幌市)
    • Year and Date
      2014-08-29 – 2014-08-29

URL: 

Published: 2016-05-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi