| 研究課題/領域番号 |
20H01822
|
|---|
| 研究種目 |
基盤研究(B)
|
| 配分区分 | 補助金 |
|---|
| 応募区分 | 一般 |
|---|
| 審査区分 |
小区分12040:応用数学および統計数学関連
|
|---|
| 研究機関 | 大阪大学 |
|---|
研究代表者 |
降籏 大介 大阪大学, サイバーメディアセンター, 教授 (80242014)
|
|---|
| 研究分担者 |
松尾 宇泰 東京大学, 大学院情報理工学系研究科, 教授 (90293670)
田中 健一郎 東京大学, 大学院情報理工学系研究科, 准教授 (70610640)
宮武 勇登 大阪大学, サイバーメディアセンター, 准教授 (60757384)
佐藤 峻 東京大学, 大学院情報理工学系研究科, 助教 (40849072)
|
|---|
| 研究期間 (年度) |
2020-04-01 – 2024-03-31
|
| 研究課題ステータス |
完了 (2023年度)
|
| 配分額 *注記 |
17,420千円 (直接経費: 13,400千円、間接経費: 4,020千円)
2023年度: 4,290千円 (直接経費: 3,300千円、間接経費: 990千円)
2022年度: 5,070千円 (直接経費: 3,900千円、間接経費: 1,170千円)
2021年度: 4,290千円 (直接経費: 3,300千円、間接経費: 990千円)
2020年度: 3,770千円 (直接経費: 2,900千円、間接経費: 870千円)
|
|---|
| キーワード | 深層学習 / 数値解析 / 微分方程式 / 数値積分 / 関数近似 / 数値解析的アプローチ / ニューラルネットワーク |
|---|
| 研究開始時の研究の概要 |
深層学習の理論的背景はその成果に比して弱く，確立が強く望まれる．
これに対し近年，ネットワークの表現能力，連続極限による力学系との対応などによる理論的研究があり，微分方程式数値解法や関数近似・数値積分等との関連性が指摘され，この方向での可能性に期待が高まっている．
本研究は，数値解析学者の立場からこの視座を改めて理解・整理し，深層学習に対する，数値解析学的アプローチ基盤を創出して深層学習理解・発展をより加速すること，および新しい応用分野の導入によるフィードバックで数値解析学に新展開をもたらすことで，第四の科学時代における応用数学・数理科学自身の発展を狙うものである．
|
| 研究成果の概要 |
数値解析学観点から類似ResNet等の新DNNを構築，異なる数値解法・画像認識等で性能評価をし，ネットワークの数値微分方程式表現について後退誤差解析からDNNと背後力学系を理解する基盤を研究し，DNNでの数値解析学的概念対応物を調査した．
また，数値積分公式に基づく実験的DNN構築の研究として適切な公式の検証を行い，また，ネットワーク積分変換における数値積分理論の枠組も探究した．数値積分公式の積分変換誤差評価を行い理論基盤を創ること，また，DNN関数表現の適切な関数空間も研究した．また，既存研究に対し深さ段数を増やした積分変換近似についても研究を進めた．
|
| 研究成果の学術的意義や社会的意義 |
深層学習において，その理論的背景を明らかにすることは近年の大きな課題である．
これに対しネットワークの表現，力学系との連続極限対応などの理論的研究があり，微分方程式数値解法や関数近似・数値積分など数値解析学視点の重要性が深層学習研究者たちによって指摘され，問題解決可能性に期待が高まっている．
本研究成果は，数値解析学者の視座から現状況を改めて理解・整理し，深層学習に対する数値解析学的アプローチ基盤を創出して深層学習理解を発展させること，逆のフィードバックで数値解析学に新展開をもたらすことで第四の科学時代における応用数学・数理科学自身の発展に寄与するもので，まさにこの期待に応えたものである．
|
