• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2015 年度 実施状況報告書

大規模凸最適化問題に対する加速(劣)勾配法―実装を重視した理論の構築とその応用―

研究課題

研究課題/領域番号 26330024
研究機関東京工業大学

研究代表者

福田 光浩  東京工業大学, 情報理工学(系)研究科, 准教授 (80334548)

研究期間 (年度) 2014-04-01 – 2017-03-31
キーワード加速勾配法 / 凸最適化問題 / 最急降下法 / 狭義2次凸関数
研究実績の概要

情報社会基盤の整備が進む中、特に最近話題となっているビッグデータ科学や機械学習によるアプローチでは大規模凸最適化問題による解決とその解法が提案されている。本課題のメインテーマはそのような大規模凸最適化問題のなかでも、ある程度構造があるような問題(制約(式)が簡単もしくは射影などを行うのに計算量が少ない)に対して加速(劣)勾配法を提案することにある。
本年度の主な成果としては、特に最小化する関数が平滑、非平滑、複合、不正確なオラクルによる劣勾配を持つ場合などに限定されたとき、統一的な枠組みで加速(劣)勾配法を提案したことにある。これは、既存の異なる2つの加速劣勾配法を拡張した形から生まれ、変形アルゴリズムを同時に多数提案可能とするものである。また、従来から知られている最悪ケースにおける最小の計算量で収束するアルゴリズムとなっていることも理論的に示せた。関連する conditional gradient 法に関しても同様なアルゴリズムを提案し、その理論的な収束速度も示した。
もう一つの成果としては、狭義2次凸関数に対する最急降下法の発見的手法の提案がある。これは昨年度の数値実験による予備結果に加え、理論的なアルゴリズムの収束性を部分的に保証することを示した。
最後に、疎性をもつ(逆)分散共分散行列推定型問題に対する提案アルゴリズムに関しては、さらに数値実験を重ね、疑似乱数により生成された問題に対して既存アルゴリズムより優位であることが確認できた。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

本研究課題のサブテーマによって進み具合が異なるが、メインである大規模凸最適化問題に対する加速(劣)勾配法に関しては、当初計画していた以上の結果となった。成果は2本の論文にまとめられ、近く国際学術雑誌に採択される見込みである。
一方、狭義2次凸関数に対する最急降下法と疎性をもつ(逆)分散共分散行列推定型問題に対する新アルゴリズムに関しては引き続き、数値実験の蓄積と理論の多少の整理が必要となっていて、計画よりは少し遅れ気味である。

今後の研究の推進方策

引き続き、疎性をもつ(逆)分散共分散行列推定型問題に関しては、Z. Lu が提案しているものより、より複雑な線形制約を追加した一般的な問題にも適用可能になるように進める予定である。
狭義2次凸関数に対する最急降下法の発見的手法の提案に関しては、手法の理論的な収束性、そして、当初から予定をしていた共役勾配法や準ニュートン法との関連性を追究する必要がある。
また、当初計画になかった、簡単な構造を持つ凸最適化問題に対する加速(劣)勾配法に関してはその振る舞いや実質的な効果を数値実験により確認することも計画している。

次年度使用額が生じた理由

前々年度からの繰越金があり、さらに、海外での研究成果発表の旅費が円高により、見積もっていた額より低くなったこと。

次年度使用額の使用計画

上記の理由により、特に計画を変更する必要なし。繰越金は既に寿命が近い計算機の買い替えにあてる予定である。

  • 研究成果

    (3件)

すべて 2015

すべて 学会発表 (3件) (うち国際学会 2件)

  • [学会発表] A numerical comparative study of steepest descent methods for strongly convex quadratic minimization2015

    • 著者名/発表者名
      Mituhiro Fukuda and Kensuke Gotoh
    • 学会等名
      22nd International Symposium on Mathematical Programming
    • 発表場所
      Wyndham Grand Pittsburgh Downtown, Pittsburgh, PA, USA
    • 年月日
      2015-07-12 – 2015-07-17
    • 国際学会
  • [学会発表] New results on subgradient methods for weakly smooth and strongly convex problems2015

    • 著者名/発表者名
      Masaru Ito
    • 学会等名
      22nd International Symposium on Mathematical Programming
    • 発表場所
      Wyndham Grand Pittsburgh Downtown, Pittsburgh, PA, USA
    • 年月日
      2015-07-12 – 2015-07-17
    • 国際学会
  • [学会発表] 凸最適化問題に対するヘルダー条件のもとでの最適な劣勾配アルゴリズムの提案2015

    • 著者名/発表者名
      伊藤 勝
    • 学会等名
      WOO@つくば―未来を担う若手研究者の集い2015―
    • 発表場所
      筑波大学筑波キャンパス春日地区春日講堂
    • 年月日
      2015-05-30 – 2015-05-31

URL: 

公開日: 2017-01-06  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi