• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2017 年度 実施状況報告書

大規模ロバスト最適化問題に対する効率的解法と機械学習への応用

研究課題

研究課題/領域番号 15K00031
研究機関統計数理研究所

研究代表者

武田 朗子  統計数理研究所, 数理・推論研究系, 教授 (80361799)

研究期間 (年度) 2015-04-01 – 2019-03-31
キーワード非凸最適化 / DCアルゴズム / 多期間ロバスト最適化 / スパースポートフォリオ選択 / 太陽光発電システム導入量
研究実績の概要

申請者によるこれまでの研究成果により,多くの判別モデルがロバスト最適化問題(min-max問題) を用いて記述できること,また,それらの判別モデルの差異はmin-max問題の制約領域,つまり,不確実な要因の取りうる範囲(不確実性領域)の記述方法の差異にあること,などが明らかになった.それらのうち,非凸最適化問題に帰着される判別モデルに焦点を当て,近接勾配法やDC(difference-of-convex)アルゴリズムなどの一次法に基づく効率的な解法について研究を行った.今まで,非凸な正則化項を含み,かつ制約条件を有する最適化問題に対して,効率的な一次法は提案されていなかった.本研究成果として,そのような非凸最適化問題に対して,あるタイプのDC分解を利用して等価な問題に変形すると,DCアルゴリズムで解かれる子問題が非常に簡単になるため,高速解法が構築できることがわかった.実際に,スパースポートフォリオ選択問題に適用し,その計算性能を他手法と比較し,優位性を検証した.
また,本研究課題の申請時より平成29年度の目標としてあげていた「多期間ロバスト最適化モデルへの効率的解法の提案」についても研究成果が得られた.多期間モデルは問題のサイズが非常に大きくなるため,効率的な解法が望まれている.部分的にラグランジュ緩和法を適用し,さらに問題を複数の子問題に分けて並列処理を行うことにより,大規模な多期間モデルを解くことができることを確認した.実際に,東京電力5年分の需要データや東京の日射量や気温データを用いて,天候変化や電力需要量変化のある不確実性状況下でロバストな意思決定を行うための多期間モデルを構築し,提案手法によって最適な太陽光発電システム導入量や発電量を求めた.そして,他手法では解けないサイズの多期間ロバスト最適化問題を,提案手法を用いて解けることを確認した.

現在までの達成度 (区分)
現在までの達成度 (区分)

1: 当初の計画以上に進展している

理由

本研究課題の申請時は,平成28年度から効率的な多期間ロバスト最適化法の開発に取り組み,平成30年にはエネルギー最適化や金融最適化問題を用いて解法の性能を評価する予定であった.平成28年度は,非凸な統一的判別モデルに対する効率的な解法を検討するうちに,その流れで非常に面白い研究成果が得られ,多期間ロバスト最適化法の開発には注力できなかった.一方,平成29年度は,非凸最適化問題に対する効率的な解法を研究するのに並行して,効率的な多期間ロバスト最適化法の構築に取り組んだ.
実際に,東京電力の需要データ,東京の日射量などの実データを用いて多期間モデルを構築し,提案手法により,天候変化や電力需要量変化に頑健な解(最適な太陽光発電システム導入量や発電量)を求めた.また,サンタンデール銀行の主な支店での現金保有量データに基づいて,現金需要変動にロバストな意思決定(現金保有量の決定)を行なうための多期間ロバストモデルを構築し,効率的な解法を考案した.エネルギーシステムへの応用,銀行業務運営への応用のどちらも,論文掲載に至っている.
さらに,非凸最適化問題に対する効率的解法の研究に関しても,大きな成果が得られた.非凸な正則化項と制約領域を持つ最適化問題に対して,これまで効率的な一次法は提案されていなかったが,あるタイプのDC分解を利用して等価な問題に変形することで,DCアルゴリズムの高速化が可能になった.本成果は,最適化分野の国際一流雑誌であるMathematical Programmingに掲載されている.
本課題申請時に,平成29年度に効率的な多期間ロバスト最適化法の構築,平成30年度にエネルギーシステムや金融工学への多期間ロバスト最適化法の適用を目標として挙げていたことを考えると,現時点で予定以上の成果が得られている. これらを総合すると,当初の計画以上に進展していると言える.

今後の研究の推進方策

「現在までの進捗状況」で記したように,平成29年度は多期間ロバスト最適化問題と非凸最適化問題に対する効率的な解法の研究を行った.多期間ロバスト最適化については現実問題への適用まで至り,本研究課題において一段落ついた状況である.しかし,非凸最適化法の研究に関しては,研究すべきことが未だに山積している.例えば,
(1)DCアルゴリズムによって得られる解は大域最適解の保証はないものの,解の精度について何か理論的な評価を与えたい.
(2)難しい構造(例えば,微分不可能性)を持つ最適化問題に対して,効率的な一次法を構築し,さらに大域収束性や収束の速さなどの理論保証を与えたい.
(3)テンソル分解問題やシステム同定問題に特化して,(2)の提案手法を改良したい.
(1)については,平成29年度より統計物理分野の研究者の協力を得て,検討を続けている段階である.(2)は解法の構築まではほぼ完成し,現在,理論保証の解析を行っている最中である.(3)のシステム同定問題への適用については,Ting Kei Pong准教授(the Hong Kong Polytechnic University)とスカイプで議論を続けている.また,(3)のテンソル分解問題への適用については,Mahesan Niranjan教授(University of Southampton)を昨年9月に訪問して以来,ディスカッションを続けており,近接DCアルゴリズムの適用可能性について検討している段階である.どちらの共同研究に関しても,すでにメールやスカイプを通して議論を進めている.ある程度,アルゴリズムの開発に目処がついた段階で,様々な応用問題に対して非凸最適化法の適用を検討していきたい.

次年度使用額が生じた理由

(理由) 所内で想定以上の資金が調達できたため,結果的に本資金による支出が少なくなった.
(使用計画)
本年度に様々な研究成果が得られたため,今後,研究発表のために出張費用や学会参加費などが必要になると思われる.また,雑誌論文の英語表現を確認してもらうために,英文添削サービスも利用したい.今後,遂行していくことになる大規模な数値実験について,サポートしてくれる研究員も必要となる.本年度の資金の残金は,今後,研究環境を整えていくのに充ていきたい.

  • 研究成果

    (23件)

すべて 2018 2017 その他

すべて 国際共同研究 (4件) 雑誌論文 (9件) (うち国際共著 3件、 査読あり 9件、 オープンアクセス 1件) 学会発表 (9件) (うち国際学会 8件、 招待講演 6件) 備考 (1件)

  • [国際共同研究] Ewha Womans University(韓国)

    • 国名
      韓国
    • 外国機関名
      Ewha Womans University
  • [国際共同研究] University of Southampton/University of Bristol(英国)

    • 国名
      英国
    • 外国機関名
      University of Southampton/University of Bristol
  • [国際共同研究] Universidad Autonoma de Madrid(スペイン)

    • 国名
      スペイン
    • 外国機関名
      Universidad Autonoma de Madrid
  • [国際共同研究] the Hong Kong Polytechnic University(香港)

    • 国名
      その他の国・地域
    • 外国機関名
      the Hong Kong Polytechnic University
  • [雑誌論文] Improving cash logistics in bank branches by coupling machine learning and robust optimization2018

    • 著者名/発表者名
      Lopez Lazaro Jorge、Barbero Jimenez Alvaro、Takeda Akiko
    • 雑誌名

      Expert Systems with Applications

      巻: 92 ページ: 236~255

    • DOI

      doi.org/10.1016/j.eswa.2017.09.043

    • 査読あり / 国際共著
  • [雑誌論文] Successive Lagrangian relaxation algorithm for nonconvex quadratic optimization2018

    • 著者名/発表者名
      Yamada Shinji、Takeda Akiko
    • 雑誌名

      Journal of Global Optimization

      巻: 71 ページ: 313~339

    • DOI

      10.1007/s10898-018-0617-2

    • 査読あり
  • [雑誌論文] Position-based Multiple-play Multi-armed Bandit Problem with Unknown Position Bias2018

    • 著者名/発表者名
      Junpei Komiyama, Junya Honda, Akiko Takeda,
    • 雑誌名

      Proceedings of the 31st Neural Information Processing Systems (NIPS 2017)

      巻: 印刷中 ページ: 印刷中

    • 査読あり
  • [雑誌論文] Trimmed Density Ratio Estimation2018

    • 著者名/発表者名
      Song Liu, Akiko Takeda, Taiji Suzuki, Kenji Fukumizu,
    • 雑誌名

      Proceedings of the 31st Neural Information Processing Systems (NIPS 2017)

      巻: 印刷中 ページ: 印刷中

    • 査読あり / 国際共著
  • [雑誌論文] Optimal Sizing of Photovoltaic Systems for Loss Minimization2018

    • 著者名/発表者名
      Shunnosuke Ikeda, Akiko Takeda, Hiromitsu Ohmori,
    • 雑誌名

      2018 SICE International Symposium on Control Systems

      巻: - ページ: -

    • 査読あり
  • [雑誌論文] Exact Semidefinite Programming Relaxations with Truncated Moment Matrix for Binary Polynomial Optimization Problems2017

    • 著者名/発表者名
      Sakaue Shinsaku、Takeda Akiko、Kim Sunyoung、Ito Naoki
    • 雑誌名

      SIAM Journal on Optimization

      巻: 27 ページ: 565~582

    • DOI

      10.1137/16M105544X

    • 査読あり / 国際共著
  • [雑誌論文] DC Algorithm for Extended Robust Support Vector Machine2017

    • 著者名/発表者名
      Fujiwara Shuhei、Takeda Akiko、Kanamori Takafumi
    • 雑誌名

      Neural Computation

      巻: 29 ページ: 1406~1438

    • DOI

      10.1162/NECO_a_00958

    • 査読あり
  • [雑誌論文] Breakdown Point of Robust Support Vector Machines2017

    • 著者名/発表者名
      Kanamori Takafumi、Fujiwara Shuhei、Takeda Akiko
    • 雑誌名

      Entropy

      巻: 19 ページ: 83~83

    • DOI

      10.3390/e19020083

    • 査読あり / オープンアクセス
  • [雑誌論文] Robustness of learning algorithms using hinge loss with outlier indicators2017

    • 著者名/発表者名
      Kanamori Takafumi、Fujiwara Shuhei、Takeda Akiko
    • 雑誌名

      Neural Networks

      巻: 94 ページ: 173~191

    • DOI

      10.1016/j.neunet.2017.07.005

    • 査読あり
  • [学会発表] Efficient DC Algorithm for Nonconvex Nonsmooth Optimization Problems2018

    • 著者名/発表者名
      Akiko Takeda
    • 学会等名
      Georgia Tech and Friedrich-Alexander-Universitat Workshop 2018
    • 国際学会
  • [学会発表] Household energy consumption prediction by feature selection of lifestyle data2018

    • 著者名/発表者名
      Akiko Takeda
    • 学会等名
      CURENT SLC Seminar, The University of Tennessee
    • 国際学会 / 招待講演
  • [学会発表] Efficient DC Algorithm for Nonconvex Nonsmooth Optimization Problems2018

    • 著者名/発表者名
      Akiko Takeda
    • 学会等名
      Tokyo Deep Learning Workshop 2018
    • 国際学会 / 招待講演
  • [学会発表] Proximal DC Algorithm for Sparse Optimization2017

    • 著者名/発表者名
      Akiko Takeda
    • 学会等名
      SIAM Conference on Optimization
    • 国際学会
  • [学会発表] Proximal DC Algorithm for Sparse Optimization2017

    • 著者名/発表者名
      Akiko Takeda
    • 学会等名
      Seminar, Vrije Universiteit Brussel
    • 国際学会 / 招待講演
  • [学会発表] Proximal DC Algorithm for Sparse Optimization2017

    • 著者名/発表者名
      Akiko Takeda
    • 学会等名
      France / Japan Machine Learning Workshop
    • 国際学会 / 招待講演
  • [学会発表] Household Energy Consumption Prediction by Feature Selection of Lifestyle Data2017

    • 著者名/発表者名
      Akiko Takeda
    • 学会等名
      the 2nd ISM-ZIB-IMI MODAL Workshop on Mathematical Optimization and Data Analysis
    • 国際学会 / 招待講演
  • [学会発表] Efficient DC Algorithm for Sparse Optimization2017

    • 著者名/発表者名
      Akiko Takeda
    • 学会等名
      Workshop on Recent Development in Optimization, National Graduate Institute for Policy Studies
    • 国際学会 / 招待講演
  • [学会発表] 数理最適化の視点から機械学習の紹介2017

    • 著者名/発表者名
      武田朗子
    • 学会等名
      金沢数理データサイエンス研究会
  • [備考] 武田朗子のホームページ

    • URL

      http://www.or.mist.i.u-tokyo.ac.jp/takeda/index-e.html

URL: 

公開日: 2018-12-17   更新日: 2022-02-22  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi