• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2014 年度 実施状況報告書

数理計画法による特徴選択の厳密化

研究課題

研究課題/領域番号 26560165
研究機関東京農工大学

研究代表者

宮代 隆平  東京農工大学, 工学(系)研究科(研究院), 准教授 (50376860)

研究期間 (年度) 2014-04-01 – 2017-03-31
キーワード特徴選択 / 数理工学 / アルゴリズム / 統計 / OR
研究実績の概要

平成26年度の研究においては,以下の課題の解明に努め,下記に示す研究成果を得た.
まず,変数選択問題の中規模データに対する計算機実験,および数値不安定性の解析を行った.この分野で標準的に使用されているベンチマーク問題のうち,中規模データに対して数理計画法による特徴選択の計算機実験を行った.その結果として,現在の手法では厳密解が求まるサイズは説明変数の個数が30~40程度の問題までということが判明した.また,数値不安定性については,研究開始段階で予想した通り,数値計算における内点法の不安定性によるものだということが確かめられた.
次に,開発する数理計画法による特徴選択アルゴリズムの有効性を示すために,従来のステップワイズ法によるアルゴリズムの実装および計算機実験を行った.また従来のステップワイズ法を拡張し,多少の計算時間の増大を許容し近傍を拡大して計算機実験を行った.それらの結果を用いて,単純なステップワイズ法では最適解が求まらないが,近傍を拡大すると最適解が求められるインスタンスについて,その特徴を分析した.
また,研究当初は特徴選択の評価指標としてAIC, BIC, 自由度調整済決定係数などを用いる予定であったが,統計学の分野で古くから知られているMallowsのC_pと呼ばれる指標については,数理計画法を用いてAICなどより高速に厳密解が求められるモデルを開発した.計算機実験の結果,このモデルでは,分枝限定法の計算が終了しなくても初期の段階で非常に質の良い解が求められることが確かめられた.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

平成26年度の研究実施計画に照らし合わせ,「おおむね順調に進展している」と自己評価する.理由は以下に述べる通りである.
平成26年度研究実施計画であげていた4つのポイントのうち,「中規模データに対する計算機実験,特に数値不安定性の解析」「従来の特徴選択アルゴリズムの調査および実装」「小規模データに対する厳密な回帰モデルの求解」の3点についてはほぼ計画通りに進行した.特に,従来の特徴選択アルゴリズムについては,拡張した実装を行い,従来法との差異についても計算機実験のデータを得た.
また「Special Ordered Set type 2 (SOS type 2) による高速化」については実装を行ったものの,予想していたほどの高速化は達成できなかった.この原因について解析を行ったところ,数値不安定性に原因があることが判明した.SOS type 2による定式化は,本研究課題の場合にはSOS type 1による定式化より理論的に高速であることが示せるが,それ以上に今回の実験では数値的不安定性が計算時間に大きな影響を及ぼすことが確認された.今後はより数値的不安定性の回避に重点を置いたアルゴリズムの開発を行う予定である.
一方で,研究の当初予定していなかったMallowsのC_pと呼ばれる情報量規準について,整数二次計画法による定式化の構築を行った.この定式化では計算に単体法を使用することができ,数値的不安定性を著しく減少させることが可能になった.また,分枝限定法の初期段階において非常に質の良い許容解を求められることを確認した.

今後の研究の推進方策

平成26年度に実施した研究により,本研究課題における数理計画法を利用したアルゴリズムでは,数値的不安定性の回避を重視することが計算時間の短縮および良質な解の発見に強くつながっていることが判明した.そこで,研究当初想定していた,二次錐計画法を利用したアルゴリズムにこだわることなく,可能な場合には(近似を利用した)線形計画法,あるいは二次計画法など,数値的不安定性の少ないアルゴリズムの利用を考慮していく.
また,研究当初に予定していた線形回帰問題だけではなく,ロジスティック回帰問題など,より広い範囲の特徴選択問題についてのアルゴリズム開発も視野に入れて研究を進めていく予定である.

次年度使用額が生じた理由

1万円未満の端数であり,ほぼ当初の執行予定額通りである.

次年度使用額の使用計画

1万円未満の端数であり,次年度の当初予定に影響を与えないため,使用計画を変更することなく研究を行う.

  • 研究成果

    (6件)

すべて 2015 2014

すべて 雑誌論文 (2件) (うち査読あり 1件、 謝辞記載あり 1件) 学会発表 (4件)

  • [雑誌論文] Subset selection by Mallows' Cp: a mixed integer programming approach2015

    • 著者名/発表者名
      Ryuhei Miyashiro, Yuichi Takano
    • 雑誌名

      Expert systems with applications

      巻: 42 ページ: 325-331

    • DOI

      10.1016/j.eswa.2014.07.056

    • 査読あり / 謝辞記載あり
  • [雑誌論文] 混合整数二次錐計画法を用いた回帰式の変数選択2014

    • 著者名/発表者名
      宮代隆平,高野祐一
    • 雑誌名

      京都大学数理解析研究所講究録

      巻: 1879 ページ: 222-229

  • [学会発表] Improvement on a Stepwise Method in Variable Selection Problem in Linear Regression2015

    • 著者名/発表者名
      Ryuta Tamura, Ryuhei Miyashiro
    • 学会等名
      ICT-ISPC 2015
    • 発表場所
      東京農工大学(東京都・小金井市)
    • 年月日
      2015-05-23 – 2015-05-24
  • [学会発表] 多重共線性を考慮した回帰式の変数選択―混合整数半正定値計画問題を用いた解法―2014

    • 著者名/発表者名
      小林健,高野祐一,宮代隆平,中田和秀
    • 学会等名
      最適化アルゴリズムの進展:理論・応用・実装
    • 発表場所
      京都大学数理解析研究所(京都府・京都市)
    • 年月日
      2014-09-24 – 2014-09-25
  • [学会発表] MallowsのCp規準による回帰式の変数選択:混合整数二次計画法を用いた解法2014

    • 著者名/発表者名
      高野祐一,宮代隆平
    • 学会等名
      FIT2014 第13回情報科学技術フォーラム
    • 発表場所
      筑波大学(茨城県・つくば市)
    • 年月日
      2014-09-03 – 2014-09-05
  • [学会発表] 多重共線性を考慮した回帰式の変数選択―混合整数半正定値計画問題を用いた解法―2014

    • 著者名/発表者名
      小林健,高野祐一,宮代隆平,中田和秀
    • 学会等名
      日本オペレーションズ・リサーチ学会 2014年秋季研究発表会
    • 発表場所
      北海道科学大学(北海道・札幌市)
    • 年月日
      2014-08-29 – 2014-08-29

URL: 

公開日: 2016-05-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi