知識蒸留を取り入れた深層学習モデル構造の多目的最適化手法の開発

• 研究課題/領域番号: 25K21299
• 研究種目: 若手研究
• 配分区分: 基金
• 審査区分: 小区分61040:ソフトコンピューティング関連
• 研究機関: 岐阜大学
• 研究代表者: 中根 拓未 岐阜大学, 工学部, 助教 (70975987)
• 研究期間 (年度): 2025-04-01 – 2028-03-31
• 研究課題ステータス: 交付 (2025年度)
• 配分額: 4,680千円 (直接経費: 3,600千円、間接経費: 1,080千円); 2027年度: 1,560千円 (直接経費: 1,200千円、間接経費: 360千円); 2026年度: 1,560千円 (直接経費: 1,200千円、間接経費: 360千円); 2025年度: 1,560千円 (直接経費: 1,200千円、間接経費: 360千円)
• キーワード: 深層学習 / モデル構造最適化 / 知識蒸留 / 多目的最適化

研究開始時の研究の概要

深層学習モデルの構造最適化において知識蒸留を用いることで最適化性能が向上することが知られている。本研究ではモデルの精度だけでなくサイズや処理速度を考慮した多目的構造最適化において知識蒸留の導入を実現すべく、新しい探索操作とOnline Distillation方式を採用した多目的構造最適化手法の開発を目指す。また、ベンチマークデータセットを用いた比較実験と実応用実験によって提案手法の有効性を実証する。