• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2016 年度 実施状況報告書

大規模凸最適化問題に対する加速(劣)勾配法―実装を重視した理論の構築とその応用―

研究課題

研究課題/領域番号 26330024
研究機関東京工業大学

研究代表者

福田 光浩  東京工業大学, 情報理工学院, 准教授 (80334548)

研究期間 (年度) 2014-04-01 – 2018-03-31
キーワード凸最適化問題 / 1次法 / 分散共分散行列推定 / 最急降下法 / 劣勾配法
研究実績の概要

機械学習で欠かせない最適化手法の中でも、凸関数の勾配や劣勾配のみを用いる一次法は特に近年注目を浴びている。これらの手法・アルゴリズムの特徴は、各反復に要する計算時間が短く、その優劣はより反復回数を減らし要求される解の精度を達成できるかにかかっている。本研究ではこの種のアルゴリズムを特殊な問題のクラスに限定してその解析および実装を目指している。
疎性をもつ(逆)分散共分散行列推定型問題に対する提案アルゴリズムの研究では、疑似乱数によりデータの疎性を調節して生成された問題に対し、高精度の解を計算することに成功した。さらに、既存のアルゴリズムとの比較実験でも優位な結果が得られた。
次に、凸最適化問題の中でも、本質的な複雑度を保ちつつ最も簡素化された問題である制約なしの狭義2次凸関数に対する最急降下法の発見的手法に関しては、さらに、計画的な数値実験を行った。その結果、狭義2次凸関数を定義している正定値行列の固有値の分布により、その挙動が変わることが再度確認できた。特に、アルゴリズムの収束にかかる時間が長くなる固有値の分布を持つ問題のクラスに対しては、比較の対象とした手法より高速に終了することに成功した。これは、問題の個数を増やしても同様な傾向になることも確認できた。
もう一つのテーマである、単純な構造を持った凸集合上での(強)凸関数最小化問題に対する統一的な枠組みによる(劣)勾配法に関しては、さらに実装を鑑みたパラメータの計算を確立するなどの検討を行った。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

疎性をもつ(逆)分散共分散行列推定型問題に関する研究に対しては、予備数値実験通りの結果となり、最終的な数値実験を実行することのみ残された課題となっている。
狭義2次凸関数に対する最急降下法の発見的手法に関しては、概ね、数値実験に裏付けられた結果は得られているものの、理論的な収束性について、もう少しそのメカニズムを理解する必要があると思われる。
単純な構造を持った凸集合上での(強)凸関数最小化問題に対する統一的な枠組みによる(劣)勾配法に関する研究では、目標となっていた結果は得られ、国際学術雑誌に2本の論文としてまとめられている。その後の拡張については、まだ部分な結果しか得られていない。
上記のテーマ別の進捗状況を総合的に見ると、研究はおおむね順調に進展していると思われる。

今後の研究の推進方策

全体的にはテーマ別に並列して研究を進める予定である。
疎性をもつ(逆)分散共分散行列推定型問題に関する研究については、最終的な数値実験を行った上で、まとめ上げた論文を国際学術雑誌に投稿する予定である。
狭義2次凸関数に対する最急降下法の発見的手法に関しては、収束に関する理論を強化する必要がある。さらに問題を定義する正定値行列の固有値分布を変化させて、数値実験を追加する必要がある。
単純な構造を持った凸集合上での(強)凸関数最小化問題に関しては、最近、別の観点から(劣)勾配法によるアルゴリズムの収束の反復回数に関する研究があり、我々の研究に関する関連性を追究する必要がある。

次年度使用額が生じた理由

初年度からの繰越金があり、さらに、今年度は特別にこの分野最大の国際会議が東京で開催されたため、出張費が節約された。

次年度使用額の使用計画

特に計画に変更なし。計算機の買い替えに使用する予定。

  • 研究成果

    (4件)

すべて 2016

すべて 雑誌論文 (2件) (うち査読あり 2件、 謝辞記載あり 2件) 学会発表 (2件)

  • [雑誌論文] New results on subgradient methods for strongly convex optimization problems with a unified analysis2016

    • 著者名/発表者名
      Masaru Ito
    • 雑誌名

      Computational Optimization and Applications

      巻: 65 ページ: 127-172

    • DOI

      10.1007/s10589-016-9841-1

    • 査読あり / 謝辞記載あり
  • [雑誌論文] A family of subgradient-based methods for convex optimization problems in a unifying framework2016

    • 著者名/発表者名
      Masaru Ito and Mituhiro Fukuda
    • 雑誌名

      Optimization Methods and Software

      巻: 31 ページ: 952-982

    • DOI

      10.1080/10556788.2016.1182165

    • 査読あり / 謝辞記載あり
  • [学会発表] A comparative study of steepest descent methods for strongly convex quadratic functions2016

    • 著者名/発表者名
      Mituhiro Fukuda
    • 学会等名
      Workshop on Advances in Optimization
    • 発表場所
      Shinagawa, Tokyo, Japan
    • 年月日
      2016-08-12 – 2016-08-13
  • [学会発表] A comparative study of steepest descent methods for strongly convex quadratic minimization2016

    • 著者名/発表者名
      Mituhiro Fukuda and Kensuke Gotoh
    • 学会等名
      XI Brazilian Workshop on Continuous Optimization
    • 発表場所
      Manaus, Amazonas, Brazil
    • 年月日
      2016-05-22 – 2016-05-27

URL: 

公開日: 2018-01-16  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi