アナログ回路に基づく進化計算手法による深層学習モデルの最適化

• 研究課題/領域番号: 24K15115
• 研究種目: 基盤研究(C)
• 配分区分: 基金
• 応募区分: 一般
• 審査区分: 小区分61040:ソフトコンピューティング関連
• 研究機関: 東京都市大学
• 研究代表者: 中野 秀洋 東京都市大学, 情報工学部, 教授 (10386360)
• 研究分担者: 神野 健哉 東京都市大学, 情報工学部, 教授 (50286762)
• 研究期間 (年度): 2024-04-01 – 2027-03-31
• 研究課題ステータス: 交付 (2024年度)
• 配分額: 4,550千円 (直接経費: 3,500千円、間接経費: 1,050千円); 2026年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円); 2025年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円); 2024年度: 1,950千円 (直接経費: 1,500千円、間接経費: 450千円)
• キーワード: ニューラルネットワーク / 進化計算 / アナログ回路

研究開始時の研究の概要

高性能な物理最適化ソルバーを開発し、小規模パラメータの深層学習モデルの性能向上を目指す。近年の深層学習モデルはパラメータ数が大規模になっているため計算量とエネルギー消費が大きい問題がある。小規模モデルはその解決策となる可能性があるが、多峰性の損失関数による局所解が学習に与える影響が大きい。通常、学習に用いられる勾配法では局所解に拘束されやすい。そこで、局所解の影響を受けにくい進化計算アルゴリズムを採用する。ただし、進化計算は計算量が多いため、それをアナログ電子回路で効率よく実行する手法を提案する。この最適化ソルバーで深層学習を行うことは効率化と最適化に新たな方向性を提供する可能性がある。