• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2018 Fiscal Year Research-status Report

混合整数最適化を用いた制約付き変数選択による高精度パラメータ推定

Research Project

Project/Area Number 17K12983
Research InstitutionUniversity of Tsukuba

Principal Investigator

高野 祐一  筑波大学, システム情報系, 准教授 (40602959)

Project Period (FY) 2017-04-01 – 2021-03-31
Keywords最適化 / 変数選択 / 分類
Outline of Annual Research Achievements

回帰分析や判別分析における変数選択のための厳密解法として,混合整数最適化が近年注目を集めている.一方で混合整数最適化による変数選択では,選択された説明変数に多重共線性が残ってしまう場合が多く,データに内在する事前知識も活用されていないという欠点がある.本研究の目的は,「混合整数最適化」に「多重共線性の除去」と「構造正則化(事前情報を活用したモデル構築)」を組み合わせ,高精度のパラメータ推定が可能な制約付き変数選択手法を提案することである.
本年度は順序付き多クラス分類モデルの変数選択手法の開発に取り組んだ.先行研究では逐次ロジットモデルに対して,目的関数に現れる非線形の1変数関数を複数の接線により区分線形近似し,変数選択問題を混合整数線形最適化モデルに帰着する方法が提案されており,有効な接線を選択するためのアルゴリズムも提案されている.本年度はこの手法を拡張することで,順序ロジットモデルに対する変数選択手法を提案した.提案手法では,順序ロジットモデルの目的関数に現れる非線形の2変数関数を複数の接平面により近似し,変数選択問題を混合整数線形最適化モデルに帰着した.また有効な接平面を選択するためのアルゴリズムも提案した.
本研究では数値実験を実施し,L1罰則モデルによる変数選択との性能比較を通して,提案手法の有効性を検証した.数値実験の結果,提案手法はL1罰則付き回帰よりも良質な変数を選択できることが分かった.

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

順序付き多クラス分類モデルの変数選択手法の開発に成功し,当初の計画では想定していなかった研究成果を得ることができた.

Strategy for Future Research Activity

今後は,構造正則化に基づく制約付き変数選択問題の研究に取り組む.最初に構造正則化制約付き変数選択モデルを定式化する.次に構造正則化制約付き変数選択モデルに対する求解アルゴリズムを開発する.
その後は数値実験を実施して提案手法の有効性を検証する.人工データや実データを利用して提案手法のパラメータ推定精度を検証し,既存手法との分析結果の差異や妥当性を考察する.

Causes of Carryover

論文執筆作業に遅れが生じたために次年度使用額が生じた.
次年度は論文を完成させ,その成果発表に助成金を使用する.

  • Research Products

    (5 results)

All 2019 2018

All Journal Article (3 results) (of which Peer Reviewed: 3 results,  Open Access: 1 results) Presentation (2 results) (of which Int'l Joint Research: 1 results,  Invited: 1 results)

  • [Journal Article] Mixed integer quadratic optimization formulations for eliminating multicollinearity based on variance inflation factor2019

    • Author(s)
      Ryuta Tamura, Ken Kobayashi, Yuichi Takano, Ryuhei Miyashiro, Kazuhide Nakata, and Tomomi Matsui
    • Journal Title

      Journal of Global Optimization

      Volume: 73 Pages: 431-446

    • DOI

      10.1007/s10898-018-0713-3

    • Peer Reviewed
  • [Journal Article] Feature Subset Selection for Ordered Logit Model via Tangent-Plane-based Approximation2019

    • Author(s)
      Mizuho Naganuma, Yuichi Takano, and Ryuhei Miyashiro
    • Journal Title

      IEICE TRANSACTIONS on Information and Systems

      Volume: E102-D Pages: 1046-1053

    • DOI

      10.1587/transinf.2018EDP7188

    • Peer Reviewed / Open Access
  • [Journal Article] Investigating consumers’ store-choice behavior via hierarchical variable selection2019

    • Author(s)
      Toshiki Sato, Yuichi Takano, and Takanobu Nakahara
    • Journal Title

      Advances in Data Analysis and Classification

      Volume: 印刷中 Pages: -

    • DOI

      10.1007/s11634-018-0327-0

    • Peer Reviewed
  • [Presentation] Recent Advances in Mixed-integer Optimization Approaches to Feature Subset Selection2018

    • Author(s)
      Yuichi Takano and Ryuhei Miyashiro
    • Organizer
      INFORMS 2018 Annual Meeting
    • Int'l Joint Research
  • [Presentation] 混合整数最適化によるロジットモデルの変数選択2018

    • Author(s)
      高野祐一
    • Organizer
      科研費「新時代の最適化モデルに基づく意思決定支援プラットフォームの研究と開発」2018年度ワークショップ
    • Invited

URL: 

Published: 2019-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi