| 研究課題/領域番号 |
23K21674
|
|---|
| 補助金の研究課題番号 |
21H03452 (2021-2023)
|
|---|
| 研究種目 |
基盤研究(B)
|
| 配分区分 | 基金 (2024)
補助金 (2021-2023) |
|---|
| 応募区分 | 一般 |
|---|
| 審査区分 |
小区分60100:計算科学関連
|
|---|
| 研究機関 | 東京大学 |
|---|
研究代表者 |
松尾 宇泰 東京大学, 大学院情報理工学系研究科, 教授 (90293670)
|
|---|
| 研究期間 (年度) |
2021-04-01 – 2025-03-31
|
| 研究課題ステータス |
交付 (2024年度)
|
| 配分額 *注記 |
17,160千円 (直接経費: 13,200千円、間接経費: 3,960千円)
2024年度: 4,290千円 (直接経費: 3,300千円、間接経費: 990千円)
2023年度: 4,160千円 (直接経費: 3,200千円、間接経費: 960千円)
2022年度: 4,160千円 (直接経費: 3,200千円、間接経費: 960千円)
2021年度: 4,550千円 (直接経費: 3,500千円、間接経費: 1,050千円)
|
|---|
| キーワード | 数値解析 / 最適化 / 深層学習 / 構造保存解法 |
|---|
| 研究開始時の研究の概要 |
本研究では，(1)最適化手法および深層学習手法の数値解析学的解釈の基礎を再検討し，(2)それらにおいて有用な数理構造を抽出し，(3)その上で構造保存的数値計算法の考え方により新しい離散化，すなわち手法導出を，この順に検討してゆく．さらにその過程で，最適化や深層学習といった新しい計算分野を踏まえての，構造保存解法や数値解析学そのものの更新も必要に応じて検討する． 研究計画期間全体において，まず最適化手法から検討を開始し，次いで深層学習にも研究を展開する．
|
| 研究実績の概要 |
本研究では，(1)最適化手法および深層学習手法の数値解析学的解釈の基礎を再検討し，(2)それらにおいて有用な数理構造を抽出し，(3)その上で構造保存的数値計算法の考え方により新しい離散化，すなわち手法導出を，この順に検討してゆく．さらにその過程で，最適化や深層学習といった新しい計算分野を踏まえての，構造保存解法や数値解析学そのものの更新も必要に応じて検討することが目標である．
以前のサーベイにより，最適化手法に対する常微分方程式アプローチにおいて，数値解析学の知見が充分活用されておらず不完全な状態にあることが分かっていた．この状況をふまえて昨年度までに，常微分方程式に対する数値解法の安定性の議論から，最適化手法を表す常微分方程式の解の収束レートが本質的に定まることを示していた．また最適化の一次法において，数値解析学的に手法の安定性に関係するのは目的関数のヘッセ行列の固有値であり，悪条件な問題ではこれらが安定性を議論する平面上で負の実軸上に広く分布することから，それに適した数値解法を用いることで，悪条件な問題においても効率よく動く手法が構成できることを示していた．
本年度は，以下を行った．(i) 最適化手法を統一的に記述するための「弱離散勾配法」を確立した．これにより記述が容易になっただけでなく，理論解析の仮定の位置づけも明確になった．(ii) 最適化手法を表す連続力学系の収束解析を行うための新しいアプローチを開発した．(iii) 構造保存解法の発展のひとつとして，計算科学分野で近年重要視されている部分和分法と既存の構造保存解法の関係を考察し，それぞれの手法における拡張を考案した．
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
最適化方面では，当初目指した以上の進展が得られており順調である．また，本研究では最適化や深層学習を新しい計算対象と考えたときの，構造保存解法そのものの進展も目指しているが，その方向においても一定の進展があった．
他方，深層学習方面は，いまだ考察が遅れており，研究計画最終年度での進展が期待される．
|
| 今後の研究の推進方策 |
最適化手法への数値解析学的アプローチは，理解が順調に進み，その上で新しい結果が色々と出ており順調である．今後，さらにより高度な最適化手法への数値解析学的アプローチを検討してゆく．
深層学習方面はやや停滞しているため，研究計画最終年度は，最適化方面で得られた知見を深層学習（ニューラルODE）でも活かせないか，検討を行う．
|
