積型ニューラルネットワーク深層学習による数値解析的アルゴリズムの解析と創出

• 研究課題/領域番号: 24K00540
• 研究種目: 基盤研究(B)
• 配分区分: 基金
• 応募区分: 一般
• 審査区分: 小区分12040:応用数学および統計数学関連; 小区分12030:数学基礎関連; 合同審査対象区分:小区分12030:数学基礎関連、小区分12040:応用数学および統計数学関連
• 研究機関: 大阪大学
• 研究代表者: 降籏 大介 大阪大学, サイバーメディアセンター, 教授 (80242014)
• 研究分担者: 松尾 宇泰 東京大学, 大学院情報理工学系研究科, 教授 (90293670) ; 田中 健一郎 東京大学, 大学院情報理工学系研究科, 准教授 (70610640) ; 宮武 勇登 大阪大学, サイバーメディアセンター, 准教授 (60757384) ; 佐藤 峻 東京大学, 大学院情報理工学系研究科, 助教 (40849072)
• 研究期間 (年度): 2024-04-01 – 2028-03-31
• 研究課題ステータス: 交付 (2024年度)
• 配分額: 18,720千円 (直接経費: 14,400千円、間接経費: 4,320千円); 2027年度: 4,680千円 (直接経費: 3,600千円、間接経費: 1,080千円); 2026年度: 5,590千円 (直接経費: 4,300千円、間接経費: 1,290千円); 2025年度: 4,680千円 (直接経費: 3,600千円、間接経費: 1,080千円); 2024年度: 3,770千円 (直接経費: 2,900千円、間接経費: 870千円)
• キーワード: 積型ニューラルネットワーク / 深層学習 / 数値解析学的アプローチ

研究開始時の研究の概要

深層学習のパラメータ規模問題に対し積型ニューラルネットワークの一種の導入を考える．入力側で変数の対数変換を，出力側に指数変換を追加し内部では積計算をせずに出力で変数の積を実現し,計算量増大を招かずに強い非線形性を実現できる．
深層学習と数値解析学の関係性を調べ実用困難性の理論的背景を構成する試みも活発になりつつあり，われわれのアプローチを連携する成果は大きいと期待できる．つまり、実用上の困難を積型NNによって克服することを想定し，深層学習に対する失われていた数値解析学的アプローチとは何かを求め，創出することであり，数値解析学の立場から切り込もうというのが本研究の目的である．