• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2022 年度 実施状況報告書

機械学習上の非線形最適化の発展と深化

研究課題

研究課題/領域番号 20K14986
研究機関電気通信大学

研究代表者

中山 舜民  電気通信大学, i-パワードエネルギー・システム研究センター, 助教 (90847196)

研究期間 (年度) 2020-04-01 – 2024-03-31
キーワード非線形最適化 / 近接勾配法 / ニュートン法 / 多様体
研究実績の概要

目的関数が微分可能な関数と微分不可な関数の和で表される最適化問題に対するアルゴリズムとして、ニュートン型近接勾配法に注目した。ニュートン型近接勾配法において、重み付き近接写像と呼ばれる部分問題の計算効率の悪さが課題である。本研究では、比較的簡単に部分問題を解くことのできる、対称ランクワン公式を用いたニュートン型近接勾配法を開発し、アルゴリズム全体の計算効率改善に成功した。また提案手法の収束性解析を行い、数値実験を通じて有効性を示した。
上述のニュートン型近接勾配法とは異なるアプローチとして、ヘッセ行列の対角成分だけを取り出したニュートン型近接勾配法(近接対角ニュートン法)を開発した。既存のニュートン型近接勾配法とは異なり、対角行列を用いた重み付き近接写像は閉形式で計算ができるといった利点が挙げられる。提案手法の収束性を解析し、特定の条件下では提案手法が優れていることを示した。
昨年度の研究成果として刈り込みL1関数を用いたロバストなスパース回帰問題のモデルを提案している。このモデルを画像処理におけるイメージレジストレーションと呼ばれる画像の位置合わせ手法に応用した。この方法は画像の外れ値に影響されない頑健な手法であることが大きな特徴である。
現在まで取り組んできたユークリッド空間上の最適化問題に対するメモリーレス準ニュートン法をリーマン多様体上の最適化問題に拡張した。提案手法の収束性について解析し、数値実験を通じて提案手法の有効性を示した。
上下限制約付き最適化問題に対する有効制約ブロックBarzilai-Borwein(BB)法を提案した。応用上の問題では、問題の変数の属性ごとに独立した性質を持つことに注目した。通常の有効制約BB法はすべての変数に対してスケーリングを施すことに対して、提案手法では変数をブロック分割し、属性ごとに異なるスケーリングを施すことを試みた。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

機械学習などで扱われる非線形最適化問題として、多様体上の最適化問題他、微分不可能な点を含む非凸な関数の最適化問題、上下限制約付き最適化問題に対する新しい数値解法を開発した。提案手法の理論的な収束解析や数値実験を通じた有効性、実用性についても検証した。

今後の研究の推進方策

機械学習で扱われるような非線形最適化問題を解くための数値解法について、新しい最適化手法を開発するともに、数学的な立場から提案手法の収束性についても解析していく予定である。関連分野の研究動向などを把握するために研究集会・学会研究発表会・シンポジウムに積極的に参加して、他大学・他研究機関の研究者と交流し、研究打ち合わせを行って意見交換をしていく予定である。2023年度は以下のような研究計画を考えている。
1. ニュートン型近接勾配法における部分問題の計算効率性の悪さを改善するアルゴリズムの開発を試みる。
2. 今年度に引き続き近接対角ニュートン法の開発・改良を行う。また、理論的な深掘りや数値実験を通じた提案手法の有効性を検証する。
3. 引き続き有効制約ブロックBarzilai-Borwein法の開発及び、応用問題に適用することを試みる。

次年度使用額が生じた理由

対面で参加予定であった学会をオンライン参加への変更や、断念により、その旅費の分だけ出費が予定より少なくなった。また、春の学会・研究集会は都内開催だったため旅費が不要であった。
使用計画:学会参加等の旅費と参加費にあてる。

  • 研究成果

    (6件)

すべて 2023 2022

すべて 雑誌論文 (2件) (うち査読あり 2件) 学会発表 (4件)

  • [雑誌論文] Memoryless Quasi-Newton Methods Based on the Spectral-Scaling Broyden Family for Riemannian Optimization2023

    • 著者名/発表者名
      Narushima Yasushi、Nakayama Shummin、Takemura Masashi、Yabe Hiroshi
    • 雑誌名

      Journal of Optimization Theory and Applications

      巻: - ページ: -

    • DOI

      10.1007/s10957-023-02183-7

    • 査読あり
  • [雑誌論文] A proximal quasi-Newton method based on memoryless modified symmetric rank-one formula2023

    • 著者名/発表者名
      Narushima Yasushi、Nakayama Shummin
    • 雑誌名

      Journal of Industrial and Management Optimization

      巻: 19 ページ: 4095~4111

    • DOI

      10.3934/jimo.2022123

    • 査読あり
  • [学会発表] 悪条件の問題に対する近接対角ニュートン法の提案とその優位性について2023

    • 著者名/発表者名
      柳下翔太郎, 中山舜民
    • 学会等名
      日本応用数理学会 第19回 研究部会連合発表会
  • [学会発表] 上下限制約付き最適化問題に対する有効制約ブロックBarzilai-Borwein 法2023

    • 著者名/発表者名
      中山舜民
    • 学会等名
      日本オペレーションズ・リサーチ学会 2023 年春季研究発表会
  • [学会発表] ヘッセ行列の対角成分を用いた近接勾配法2023

    • 著者名/発表者名
      柳下翔太郎, 中山舜民
    • 学会等名
      日本オペレーションズ・リサーチ学会 2023 年春季研究発表会
  • [学会発表] Trimmed l_1 正則化を用いたイメージレジストレーション2022

    • 著者名/発表者名
      中山舜民, 後藤順哉
    • 学会等名
      京都大学数理解析研究所 共同研究(公開型) 数理最適化の理論と応用の深化

URL: 

公開日: 2023-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi