| Project/Area Number |
21K12048
|
|---|
| Research Category |
Grant-in-Aid for Scientific Research (C)
|
| Allocation Type | Multi-year Fund |
|---|
| Section | 一般 |
|---|
| Review Section |
Basic Section 61040:Soft computing-related
|
|---|
| Research Institution | Mie University |
|---|
Principal Investigator |
萩原 克幸 三重大学, 教育学部, 教授 (60273348)
|
|---|
| Project Period (FY) |
2021-04-01 – 2025-03-31
|
| Project Status |
Granted (Fiscal Year 2023)
|
| Budget Amount *help |
¥2,860,000 (Direct Cost: ¥2,200,000、Indirect Cost: ¥660,000)
Fiscal Year 2023: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2022: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2021: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
|
|---|
| Keywords | スパースモデリング / データ拡張 / 統計的回帰 / 汎化性 / Soft-thresholding / Bridge推定量 / Data Augmentation / Soft-Thresholding / Hard-Thresholding / スケーリング / ブリッジ推定量 / LASSO / スパース学習 / モデル選択規準 |
|---|
| Outline of Research at the Start |
機械学習分野で注目されている深層学習（階層型ニューラルネットワーク）とスパース学習は、独立な技術のように思われているが、いずれも、関数の集まりからいくつかの関数を学習により選んで、その線形結合により入出力関係を記述するという共通点をもつ。本研究は、こうしたモデルのモデル選択の問題を理論的に考え、リスクの推定量としてモデル選択規準を導出することを目指している。一般に、貪欲法の下では、応用において利用できるモデル選択規準を導出することはできないが、縮小推定の下での規準は構成できる可能性があり、本研究では効果的な縮小推定の方法とその下でのモデル選択規準を考える。
|
| Outline of Annual Research Achievements |
今年度は、リッジ正則化の観点から、近年注目されているData Augmentation（データ拡張）について、論文としてまとめ出版された。本研究では、ノイズを入力に加えるData Augmentationが、学習率を増加させるという見かけ上の加速化の効果とリッジ正則化の効果があることを明らかにした。さらに、この結果は、近年のディープニューラルネットワークに対しても適用できることを数値例によって確かめた。また、今年度は、overparameterizedなシナリオの下での回帰問題を設定し、スパースモデリングについて研究を進めた。一方で、本研究の応用として、マテリアルインフォマティクスの分野において、スパースモデリングを含めた様々な回帰の方法の有効性について研究を進めた。さらに、スパースモデリングと密接に関係する変化点問題を医学研究に応用し、関連する論文が出版された。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
スパース学習におけるブリッジ推定量の下でのモデル選択規準はある条件の下で導出されているので、最低限の成果は達成できている。最終年度では、その条件の緩和や本研究の応用ができれば妥当な成果であると言える。
|
| Strategy for Future Research Activity |
詳細を述べることはできないが、現在、overparametrizedなシナリオの下での回帰問題に対して、本研究でのスパースモデリングの方法を応用する研究に取り組んでいる。来年度は、それを論文の形にすることで、本研究事業の一区切りとする予定である。
|
