Deep Learning Methods Based on Fixed Point Optimizers for Improving Generalization

Research Project

Project/Area Number	24K14846
Research Category	Grant-in-Aid for Scientific Research (C)
Allocation Type	Multi-year Fund
Section	一般
Review Section	Basic Section 60020:Mathematical informatics-related
Research Institution	Meiji University
Principal Investigator	飯塚秀明明治大学, 理工学部, 専任教授 (50532280)
Project Period (FY)	2024-04-01 – 2027-03-31
Project Status	Granted (Fiscal Year 2024)
Budget Amount *help	¥3,770,000 (Direct Cost: ¥2,900,000、Indirect Cost: ¥870,000) Fiscal Year 2026: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000) Fiscal Year 2025: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000) Fiscal Year 2024: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
Keywords	汎化性能 / 不動点最適化 / 深層学習
Outline of Research at the Start	応募者が提唱する不動点最適化アルゴリズムを提案問題（不動点集合上の最適化問題）に適用できるように拡張した不動点オプティマイザ (Fixed Point Optimizer; FPO) を提案し，それが提案問題の最適解へ収束することを数学的に証明する。また，提案オプティマイザの収束率解析も行う。深層学習に関するベンチマークデータセットを用いて提案および従来深層学習法の性能を，汎化性能や実行時間等の評価により比較する。提案深層学習法が従来深層学習法と比べて汎化性能が向上していることをシミュレーション評価実験から実証する。