深層学習における敵対的損失関数に基づく新しい摂動学習の確立とその応用

• Project/Area Number: 24K02957
• Research Category: Grant-in-Aid for Scientific Research (B)
• Allocation Type: Multi-year Fund
• Section: 一般
• Review Section: Basic Section 61010:Perceptual information processing-related
• Research Institution: Tokyo Institute of Technology
• Principal Investigator: 田中 正行 東京工業大学, 工学院, 教授 (60401543)
• Co-Investigator(Kenkyū-buntansha): 紋野 雄介 東京工業大学, 工学院, 特任准教授 (10744477)
• Project Period (FY): 2024-04-01 – 2028-03-31
• Project Status: Granted (Fiscal Year 2024)
• Budget Amount: ¥18,460,000 (Direct Cost: ¥14,200,000、Indirect Cost: ¥4,260,000); Fiscal Year 2027: ¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000); Fiscal Year 2026: ¥6,240,000 (Direct Cost: ¥4,800,000、Indirect Cost: ¥1,440,000); Fiscal Year 2025: ¥4,940,000 (Direct Cost: ¥3,800,000、Indirect Cost: ¥1,140,000); Fiscal Year 2024: ¥3,120,000 (Direct Cost: ¥2,400,000、Indirect Cost: ¥720,000)
• Keywords: 深層学習

Outline of Research at the Start

深層学習の画像認識問題において敵対的損失関数に基づく新しい摂動学習手法を確立し、画像復元問題など多様な問題に応用する。まず、従来の代表的な摂動学習であるSAM、FOMAML、PoFなどは、全て学習損失関数の勾配に基づく摂動であることを指摘する。さらに、本研究課題では、学習損失関数の勾配は、最適解近傍では不安定になりやすいことを示す。本研究課題では、最適解近傍でも効果的に摂動を生成することが可能な敵対的損失関数を導入する。敵対的損失関数に基づき最適解近傍でも適切な摂動を生成可能であることを示し、機械学習における摂動学習の学問領域を拡大する。