2022 Fiscal Year Annual Research Report
正則化機能強化による超ロバスト推定法の開拓と一般化：信号処理・機械学習への応用
| Project/Area Number |
22H01492
|
|---|
| Allocation Type | Single-year Grants |
|---|
| Research Institution | Keio University |
|---|
Principal Investigator |
湯川 正裕 慶應義塾大学, 理工学部(矢上), 教授 (60462743)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
山田 功 東京工業大学, 工学院, 教授 (50230446)
|
|---|
| Project Period (FY) |
2022-04-01 – 2026-03-31
|
| Keywords | ロバスト推定 / Moreau エンベロープ / MC ペナルティ / 凸最適化 / 弱凸関数 |
|---|
| Outline of Annual Research Achievements |
２０２２年度は、ＬｉＭＥＳモデルという信号復元のための新方式を提案し、本プロジェクトの主要テーマである「正則化機能強化による超ロバスト推定法」の核となる結果を得た。以下、学術論文（２０２３年掲載）の主要成果を簡潔に述べる。
（１）射影型ミニマックス凹型ペナルティ関数：スパース推定に用いられるＬ １ノルムは、最適化の観点から好ましい凸性を持つ反面、過小推定の問題を抱えている。ミニマックス凹型ペナルティ関数は、強凸性を持つ損失関数と併用することで、目的関数全体の凸性を担保できるが、変数の次元に対してサンプル数が少ない劣決定系に適用した場合、全体の凸性は担保されない。本研究では、劣決定系の場合でも全体の凸性を担保することができ、過小推定の問題を大幅に改善する射影型ミニマックス凹型ペナルティ関数を提案し、補助変数を必要としないアルゴリズムを与えるとともに、最適解へ収束する条件を明らかにした。
（２）安定ロバスト線形回帰：外れ値にロバストな線形回帰のために提案されたフーバー損失やテューキー損失は、凸性とロバスト性の間に深刻なトレードオフを抱えていた。本研究では、「ミニマックス凹型損失」と「雑音をモデル化した補助ベクトル」によって問題を定式化し、外れ値とガウス性雑音の両方にロバストな手法を与えた。
（３）ＬｉＭＥＳモデル：（１）（２）で述べた２つの手法を統一的に解析するための一般的なモデル（ＬｉＭＥＳモデル）を提案した。ＬｉＭＥＳモデルの目的関数を最小化する主双対アルゴリズムを与え、最適解への収束条件を明らかにした。特に、最適化しやすい形に目的関数を式変形した際に現れる滑らかな関数が凸関数になるための必要十分条件を与えた。実用上、弱凸関数の相対重みを大きく設定することが望ましいため、必要性を証明した点は、特に重要な貢献と考えられる。数値例によって、提案法の著しい有効性を実証した。
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
計画時には考えていなかった新しい数理モデルを提案できたため。
|
| Strategy for Future Research Activity |
計画を適宜、修正しながら進めていく。
|
