| 研究課題/領域番号 |
20H01822
|
|---|
| 研究種目 |
基盤研究(B)
|
| 配分区分 | 補助金 |
|---|
| 応募区分 | 一般 |
|---|
| 審査区分 |
小区分12040:応用数学および統計数学関連
|
|---|
| 研究機関 | 大阪大学 |
|---|
研究代表者 |
降籏 大介 大阪大学, サイバーメディアセンター, 教授 (80242014)
|
|---|
| 研究分担者 |
松尾 宇泰 東京大学, 大学院情報理工学系研究科, 教授 (90293670)
田中 健一郎 東京大学, 大学院情報理工学系研究科, 准教授 (70610640)
宮武 勇登 大阪大学, サイバーメディアセンター, 准教授 (60757384)
佐藤 峻 東京大学, 大学院情報理工学系研究科, 助教 (40849072)
|
|---|
| 研究期間 (年度) |
2020-04-01 – 2024-03-31
|
| 研究課題ステータス |
完了 (2023年度)
|
| 配分額 *注記 |
17,420千円 (直接経費: 13,400千円、間接経費: 4,020千円)
2023年度: 4,290千円 (直接経費: 3,300千円、間接経費: 990千円)
2022年度: 5,070千円 (直接経費: 3,900千円、間接経費: 1,170千円)
2021年度: 4,290千円 (直接経費: 3,300千円、間接経費: 990千円)
2020年度: 3,770千円 (直接経費: 2,900千円、間接経費: 870千円)
|
|---|
| キーワード | 深層学習 / 数値解析 / 微分方程式 / 数値積分 / 関数近似 / 数値解析的アプローチ / ニューラルネットワーク |
|---|
| 研究開始時の研究の概要 |
深層学習の理論的背景はその成果に比して弱く，確立が強く望まれる．
これに対し近年，ネットワークの表現能力，連続極限による力学系との対応などによる理論的研究があり，微分方程式数値解法や関数近似・数値積分等との関連性が指摘され，この方向での可能性に期待が高まっている．
本研究は，数値解析学者の立場からこの視座を改めて理解・整理し，深層学習に対する，数値解析学的アプローチ基盤を創出して深層学習理解・発展をより加速すること，および新しい応用分野の導入によるフィードバックで数値解析学に新展開をもたらすことで，第四の科学時代における応用数学・数理科学自身の発展を狙うものである．
|
| 研究実績の概要 |
申請計画書にあるように本研究計画は数値微分方程式班と関数近似・数値積分班の２つの作業班を軸とし，それに俯瞰・統合班および深層学習協力者を加えて全体を構成するものであり，そしていくつかのフェーズからなるものである．前年度までの計画第2フェーズに引き続き本計画最終フェーズである第3フェーズ「基盤に基づく発展的展開」に段階をすすめる形で統合班の指揮の下，全体が一体として協働し，以下の研究を行った．
まず「数値解析学的DNN構成法の探求」テーマについて数値微分方程式班と関数近似・数値積分班の協働により研究を推進した．内容としては前フェーズで得た数値微分方程式・数値積分班の成果を統合して数値解析学的の立場からDNNの構成法について統一的な枠組み構成について検討し，さらに構造保存解法に基づくDNN構築可能性を模索するものである．さらに，最悪誤差最小化公式をもつ最先端の数値積分手法に基づくDNN構築法を探求した．
さらに，「より複雑なDNNへの挑戦」テーマに主に関数近似・数値積分班が主導の形で研究に取組み，現状で提唱されている種々の複雑なDNNについて非一様格子上での適合的解釈を適用し，さらにモデル縮減によるスケーラブル解法や並列実行可能な手法を用いてこうした拡張の研究を行った．
また，「数値解析学へのフィードバックの挑戦」テーマに数値微分方程式班と関数近似・数値積分班が協働し研究を推進した．これは数値解析学で扱う近似精度に代わるDNN上の概念のフィードバックや，DNNがもつ積分変換としての性質の数値解析学へのフィードバックについての展開としての研究を進めた．
|
| 現在までの達成度 (段落) |
令和5年度が最終年度であるため、記入しない。
|
| 今後の研究の推進方策 |
令和5年度が最終年度であるため、記入しない。
|
