正則化機能強化による超ロバスト推定法の開拓と一般化：信号処理・機械学習への応用

• Project/Area Number: 23K22762
• Project/Area Number (Other): 22H01492 (2022-2023)
• Research Category: Grant-in-Aid for Scientific Research (B)
• Allocation Type: Multi-year Fund (2024); Single-year Grants (2022-2023)
• Section: 一般
• Review Section: Basic Section 21020:Communication and network engineering-related
• Research Institution: Keio University
• Principal Investigator: 湯川 正裕 慶應義塾大学, 理工学部(矢上), 教授 (60462743)
• Co-Investigator(Kenkyū-buntansha): 山田 功 東京工業大学, 工学院, 教授 (50230446)
• Project Period (FY): 2022-04-01 – 2026-03-31
• Project Status: Granted (Fiscal Year 2024)
• Budget Amount: ¥16,770,000 (Direct Cost: ¥12,900,000、Indirect Cost: ¥3,870,000); Fiscal Year 2025: ¥4,420,000 (Direct Cost: ¥3,400,000、Indirect Cost: ¥1,020,000); Fiscal Year 2024: ¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000); Fiscal Year 2023: ¥4,030,000 (Direct Cost: ¥3,100,000、Indirect Cost: ¥930,000); Fiscal Year 2022: ¥3,640,000 (Direct Cost: ¥2,800,000、Indirect Cost: ¥840,000)
• Keywords: 凸最適化 / 近接写像 / 弱凸関数 / ロバスト推定 / スパースモデリング / Moreau エンベロープ / MCペナルティ / 弱凸正則化 / MC ペナルティ / Moreauエンベロープ

Outline of Research at the Start

本研究では、高雑音環境下でも外れ値への強い耐性を持ち、大域的最適解を効率的に求められるロバスト推定パラダイムを構築することを目的とする。この目的を達成するため、Moreauエンベロープから導かれる「良質な非線形性」を持つ損失関数に基づくロバスト回帰手法を構築し、「ロバスト性」と「大域的最適性の保証」の間に存在するトレードオフ問題を抜本的に解決するとともに、外れ値へのロバスト性が大きく向上することを実証する。さらに、Bregman エンベロープに基づく新しい損失関数を開発し、その数理的性質を解明するとともに、ダイバージェンス型損失関数を包括的に扱える一般化ロバスト推定パラダイムの構築を目指す。

Outline of Annual Research Achievements

以下、２０２３年度に得られた成果の概要を記す。
（１）分散型信号復元問題へのロバストアプローチ：ネットワーク上に散在するデータから、各ノードによる局所関数の最適化とノード間の復元結果の共有によって、ネットワーク上の全てのデータを使った最適解を求める問題を分散型信号復元問題という。ここで、各ノードは推定した変数の個数より少ない数の観測データ（入力ベクトルと出力の組）を持っており、幾つかの出力には、外れ値が含まれている状況を想定する。本研究では、２０２２年度に開発した安定ロバスト線形回帰の手法を発展させることで、外れ値にロバストな分散型信号復元法を構築した。ＴｒｉＰＤーＤｉｓｔアルゴリズムに基づくアルゴリズムを与え、最適解へ収束するための条件を明らかにするとともに、シミュレーションによって有効性を実証した。本成果は、昨年９月にローマで開催された国際会議ＩＥＥＥ ＭＬＳＰ２０２３で発表するとともに、詳細な結果をまとめた論文を学術論文誌へ投稿済みである。
（２）ロバストオンライン多ユーザ検出法：無線通信において、通信路環境の変化にロバストな多ユーザ検出問題のためのオンラインアルゴリズムを開発した。まず初めに、最適な最大事後確率（ＭＡＰ）フィルタが、ガウスカーネルの生成する再生核ヒルベルト空間の元であることを明らかにした。次に、この最適フィルタを少ないサンプルデータから効率的に推定する手法を与えた。さらに、通信路環境の変化へのロバスト性を得るべく、線形カーネルとガウスカーネルを組み合わせた部分線形モデルに基づくアルゴリズムを与え、通信路環境の変化に対するロバスト性が実現されることをシミュレーションで実証した。提案アルゴリズムは、研究代表者が２０１２年に提唱した多カーネル適応フィルタに基づいて構築されている。本成果は、フラウンホーファー研究所（独）との共同研究による。

Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

想定していた研究成果が得られている。

Strategy for Future Research Activity

随時、研究の方向性を見直しながら研究を進める。

Research Products

• [Int'l Joint Research] フラウンホーファー研究所(ドイツ)
• [Journal Article] Robust Online Multiuser Detection: A Hybrid Model-Data Driven Approach (2023)
  • Author(s): Awan Daniyal Amir、Cavalcante Renato Lu?s Garrido、Yukawa Masahiro、Stanczak Slawomir
  • Journal Title: IEEE Transactions on Signal Processing Volume: 71 Pages: 2103-2117
  • DOI: 10.1109/tsp.2023.3282698
  • Peer Reviewed / Int'l Joint Research
• [Journal Article] Sparse Stable Outlier-Robust Signal Recovery Under Gaussian Noise (2023)
  • Author(s): Suzuki Kyohei、Yukawa Masahiro
  • Journal Title: IEEE Transactions on Signal Processing Volume: 71 Pages: 372-387
  • DOI: 10.1109/tsp.2023.3244082
  • Peer Reviewed
• [Journal Article] Linearly-Involved Moreau-Enhanced-Over-Subspace Model: Debiased Sparse Modeling and Stable Outlier-Robust Regression (2023)
  • Author(s): Yukawa Masahiro, Kaneko Hiroyuki, Suzuki Kyohei, Yamada Isao
  • Journal Title: IEEE Transactions on Signal Processing Volume: 71 Pages: 1232-1247
  • DOI: 10.1109/tsp.2023.3263724
  • Peer Reviewed
• [Presentation] Distributed Stable Outlier-Robust Signal Recovery Using Minimax Concave Loss (2023)
  • Author(s): Maximilian Henri Vincent Tillmann and Masahiro Yukawa
  • Organizer: IEEE International Workshop on Machine Learning for Signal Processing
  • Int'l Joint Research
• [Presentation] Multiple Sound Source Tracking Based on Generative Modeling and Recursive Bayesian Filtering of Spatial Gradient Spectra (2023)
  • Author(s): Keisuke Takazawa, Hirokazu Kameoka, and Masahiro Yukawa
  • Organizer: In Proceedings of Asia-Pacific Signal and Information Processing Association Annual Summit and Conference
  • Int'l Joint Research
• [Presentation] Stable Robust Regression under Sparse Outlier and Gaussian Noise (2022)
  • Author(s): Masahiro Yukawa, Kyohei Suzuki, and Isao Yamada
  • Organizer: European Signal Processing Conference
  • Int'l Joint Research
• [Presentation] Sparse Stable Outlier-Robust Regression with Minimax Concave Function (2022)
  • Author(s): Kyohei Suzuki and Masahiro Yukawa
  • Organizer: IEEE International Workshop on Machine Learning for Signal Processing
  • Int'l Joint Research
• [Presentation] On Grouping Effect Of Sparse Stable Outlier-Robust Regression (2022)
  • Author(s): Kyohei Suzuki and Masahiro Yukawa
  • Organizer: IEEE International Workshop on Machine Learning for Signal Processing
  • Int'l Joint Research