研究課題/領域番号 |
21K12048
|
研究種目 |
基盤研究(C)
|
配分区分 | 基金 |
応募区分 | 一般 |
審査区分 |
小区分61040:ソフトコンピューティング関連
|
研究機関 | 三重大学 |
研究代表者 |
萩原 克幸 三重大学, 教育学部, 教授 (60273348)
|
研究期間 (年度) |
2021-04-01 – 2025-03-31
|
研究課題ステータス |
交付 (2023年度)
|
配分額 *注記 |
2,860千円 (直接経費: 2,200千円、間接経費: 660千円)
2023年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
2022年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
2021年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円)
|
キーワード | スパースモデリング / データ拡張 / 統計的回帰 / 汎化性 / Soft-thresholding / Bridge推定量 / Data Augmentation / Soft-Thresholding / Hard-Thresholding / スケーリング / ブリッジ推定量 / LASSO / スパース学習 / モデル選択規準 |
研究開始時の研究の概要 |
機械学習分野で注目されている深層学習(階層型ニューラルネットワーク)とスパース学習は、独立な技術のように思われているが、いずれも、関数の集まりからいくつかの関数を学習により選んで、その線形結合により入出力関係を記述するという共通点をもつ。本研究は、こうしたモデルのモデル選択の問題を理論的に考え、リスクの推定量としてモデル選択規準を導出することを目指している。一般に、貪欲法の下では、応用において利用できるモデル選択規準を導出することはできないが、縮小推定の下での規準は構成できる可能性があり、本研究では効果的な縮小推定の方法とその下でのモデル選択規準を考える。
|
研究実績の概要 |
今年度は、リッジ正則化の観点から、近年注目されているData Augmentation(データ拡張)について、論文としてまとめ出版された。本研究では、ノイズを入力に加えるData Augmentationが、学習率を増加させるという見かけ上の加速化の効果とリッジ正則化の効果があることを明らかにした。さらに、この結果は、近年のディープニューラルネットワークに対しても適用できることを数値例によって確かめた。また、今年度は、overparameterizedなシナリオの下での回帰問題を設定し、スパースモデリングについて研究を進めた。一方で、本研究の応用として、マテリアルインフォマティクスの分野において、スパースモデリングを含めた様々な回帰の方法の有効性について研究を進めた。さらに、スパースモデリングと密接に関係する変化点問題を医学研究に応用し、関連する論文が出版された。
|
現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
スパース学習におけるブリッジ推定量の下でのモデル選択規準はある条件の下で導出されているので、最低限の成果は達成できている。最終年度では、その条件の緩和や本研究の応用ができれば妥当な成果であると言える。
|
今後の研究の推進方策 |
詳細を述べることはできないが、現在、overparametrizedなシナリオの下での回帰問題に対して、本研究でのスパースモデリングの方法を応用する研究に取り組んでいる。来年度は、それを論文の形にすることで、本研究事業の一区切りとする予定である。
|