研究課題/領域番号 |
23K21674
|
補助金の研究課題番号 |
21H03452 (2021-2023)
|
研究種目 |
基盤研究(B)
|
配分区分 | 基金 (2024) 補助金 (2021-2023) |
応募区分 | 一般 |
審査区分 |
小区分60100:計算科学関連
|
研究機関 | 東京大学 |
研究代表者 |
松尾 宇泰 東京大学, 大学院情報理工学系研究科, 教授 (90293670)
|
研究期間 (年度) |
2021-04-01 – 2025-03-31
|
研究課題ステータス |
交付 (2024年度)
|
配分額 *注記 |
17,160千円 (直接経費: 13,200千円、間接経費: 3,960千円)
2024年度: 4,290千円 (直接経費: 3,300千円、間接経費: 990千円)
2023年度: 4,160千円 (直接経費: 3,200千円、間接経費: 960千円)
2022年度: 4,160千円 (直接経費: 3,200千円、間接経費: 960千円)
2021年度: 4,550千円 (直接経費: 3,500千円、間接経費: 1,050千円)
|
キーワード | 数値解析 / 最適化 / 深層学習 |
研究開始時の研究の概要 |
本研究では,(1)最適化手法および深層学習手法の数値解析学的解釈の基礎を再検討し,(2)それらにおいて有用な数理構造を抽出し,(3)その上で構造保存的数値計算法の考え方により新しい離散化,すなわち手法導出を,この順に検討してゆく.さらにその過程で,最適化や深層学習といった新しい計算分野を踏まえての,構造保存解法や数値解析学そのものの更新も必要に応じて検討する. 研究計画期間全体において,まず最適化手法から検討を開始し,次いで深層学習にも研究を展開する.
|
研究実績の概要 |
本研究では,(1)最適化手法および深層学習手法の数値解析学的解釈の基礎を再検討し,(2)それらにおいて有用な数理構造を抽出し,(3)その上で構造保存的数値計算法の考え方により新しい離散化,すなわち手法導出を,この順に検討してゆく.さらにその過程で,最適化や深層学習といった新しい計算分野を踏まえての,構造保存解法や数値解析学そのものの更新も必要に応じて検討することが目標である. 以前のサーベイにより,最適化手法に対する常微分方程式アプローチにおいて,数値解析学の知見が充分活用されておらず不完全な状態にあることが分かっていた.この状況をふまえて昨年度までに,常微分方程式に対する数値解法の安定性の議論から,最適化手法を表す常微分方程式の解の収束レートが本質的に定まることを示していた.また最適化の一次法において,数値解析学的に手法の安定性に関係するのは目的関数のヘッセ行列の固有値であり,悪条件な問題ではこれらが安定性を議論する平面上で負の実軸上に広く分布することから,それに適した数値解法を用いることで,悪条件な問題においても効率よく動く手法が構成できることを示していた. 本年度は,主に最適化手法の理論解析手法に着目し,数値解析学における「構造保存解法」の概念をうまく用いると,これまで職人芸的であった最適化手法の理論解析が見通しよく,統一的な枠組の上で議論できることを発見した.この新しい枠組では,手法の収束性を保証するための仮定が整理されており明解であり,新しい解法の構築に役立つことが期待される.
|
現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
主に最適化に注力する格好になってはいるが,最適化分野では当初想定していた以上の成果が得られており,全体として概ね順調に進展していると言える.
|
今後の研究の推進方策 |
最適化手法への数値解析学的アプローチは,理解が順調に進み,その上で新しい結果が色々と出ており順調である.今後,さらにより高度な最適化手法への数値解析学的アプローチを検討してゆく. 深層学習方面はやや停滞しているが,ニューラル常微分方程式アプローチの近年の動向のサーベイを行い,構造保存解法の適用可能性を探ってゆきたい.
|