Improving convergence speed of nonparametric regression using deep learning

Research Project

Project/Area Number	24K04818
Research Category	Grant-in-Aid for Scientific Research (C)
Allocation Type	Multi-year Fund
Section	一般
Review Section	Basic Section 07030:Economic statistics-related
Research Institution	Kyoto Institute of Technology
Principal Investigator	人見光太郎京都工芸繊維大学, 基盤科学系, 教授 (00283680)
Project Period (FY)	2024-04-01 – 2027-03-31
Project Status	Granted (Fiscal Year 2024)
Budget Amount *help	¥3,380,000 (Direct Cost: ¥2,600,000、Indirect Cost: ¥780,000) Fiscal Year 2026: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000) Fiscal Year 2025: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000) Fiscal Year 2024: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
Keywords	ノンパラメトリック回帰 / 深層学習 / 収束速度
Outline of Research at the Start	従来のカーネル法やシリーズ推定に比べ、深層学習を使ったノンパラメトリックな回帰関数推定の精度が高いが、その理由は不明だった。最近の研究では、深層学習が回帰曲線の構造を近似し、チューニングパラメータでパラメータ数を制限することで収束速度を向上させることが示された。しかし、未知の回帰曲線構造に対する知識がないため、チューニングパラメータを設定する方法の開発が必要である。本研究ではデータを用いてチューニングパラメータを設定する方法を開発することを目的とする。