知識蒸留を取り入れた深層学習モデル構造の多目的最適化手法の開発

• Project/Area Number: 25K21299
• Research Category: Grant-in-Aid for Early-Career Scientists
• Allocation Type: Multi-year Fund
• Review Section: Basic Section 61040:Soft computing-related
• Research Institution: Gifu University
• Principal Investigator: 中根 拓未 岐阜大学, 工学部, 助教 (70975987)
• Project Period (FY): 2025-04-01 – 2028-03-31
• Project Status: Granted (Fiscal Year 2025)
• Budget Amount: ¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000); Fiscal Year 2027: ¥1,560,000 (Direct Cost: ¥1,200,000、Indirect Cost: ¥360,000); Fiscal Year 2026: ¥1,560,000 (Direct Cost: ¥1,200,000、Indirect Cost: ¥360,000); Fiscal Year 2025: ¥1,560,000 (Direct Cost: ¥1,200,000、Indirect Cost: ¥360,000)
• Keywords: 深層学習 / モデル構造最適化 / 知識蒸留 / 多目的最適化

Outline of Research at the Start

深層学習モデルの構造最適化において知識蒸留を用いることで最適化性能が向上することが知られている。本研究ではモデルの精度だけでなくサイズや処理速度を考慮した多目的構造最適化において知識蒸留の導入を実現すべく、新しい探索操作とOnline Distillation方式を採用した多目的構造最適化手法の開発を目指す。また、ベンチマークデータセットを用いた比較実験と実応用実験によって提案手法の有効性を実証する。