• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

スパース学習におけるブリッジ推定量の下でのモデル選択規準

研究課題

研究課題/領域番号 21K12048
研究種目

基盤研究(C)

配分区分基金
応募区分一般
審査区分 小区分61040:ソフトコンピューティング関連
研究機関三重大学

研究代表者

萩原 克幸  三重大学, 教育学部, 教授 (60273348)

研究期間 (年度) 2021-04-01 – 2025-03-31
研究課題ステータス 交付 (2023年度)
配分額 *注記
2,860千円 (直接経費: 2,200千円、間接経費: 660千円)
2023年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
2022年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
2021年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円)
キーワードスパースモデリング / データ拡張 / 統計的回帰 / 汎化性 / Soft-thresholding / Bridge推定量 / Data Augmentation / Soft-Thresholding / Hard-Thresholding / スケーリング / ブリッジ推定量 / LASSO / スパース学習 / モデル選択規準
研究開始時の研究の概要

機械学習分野で注目されている深層学習(階層型ニューラルネットワーク)とスパース学習は、独立な技術のように思われているが、いずれも、関数の集まりからいくつかの関数を学習により選んで、その線形結合により入出力関係を記述するという共通点をもつ。本研究は、こうしたモデルのモデル選択の問題を理論的に考え、リスクの推定量としてモデル選択規準を導出することを目指している。一般に、貪欲法の下では、応用において利用できるモデル選択規準を導出することはできないが、縮小推定の下での規準は構成できる可能性があり、本研究では効果的な縮小推定の方法とその下でのモデル選択規準を考える。

研究実績の概要

今年度は、リッジ正則化の観点から、近年注目されているData Augmentation(データ拡張)について、論文としてまとめ出版された。本研究では、ノイズを入力に加えるData Augmentationが、学習率を増加させるという見かけ上の加速化の効果とリッジ正則化の効果があることを明らかにした。さらに、この結果は、近年のディープニューラルネットワークに対しても適用できることを数値例によって確かめた。また、今年度は、overparameterizedなシナリオの下での回帰問題を設定し、スパースモデリングについて研究を進めた。一方で、本研究の応用として、マテリアルインフォマティクスの分野において、スパースモデリングを含めた様々な回帰の方法の有効性について研究を進めた。さらに、スパースモデリングと密接に関係する変化点問題を医学研究に応用し、関連する論文が出版された。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

スパース学習におけるブリッジ推定量の下でのモデル選択規準はある条件の下で導出されているので、最低限の成果は達成できている。最終年度では、その条件の緩和や本研究の応用ができれば妥当な成果であると言える。

今後の研究の推進方策

詳細を述べることはできないが、現在、overparametrizedなシナリオの下での回帰問題に対して、本研究でのスパースモデリングの方法を応用する研究に取り組んでいる。来年度は、それを論文の形にすることで、本研究事業の一区切りとする予定である。

報告書

(3件)
  • 2023 実施状況報告書
  • 2022 実施状況報告書
  • 2021 実施状況報告書
  • 研究成果

    (7件)

すべて 2023 2022

すべて 雑誌論文 (6件) (うち査読あり 3件、 オープンアクセス 4件) 図書 (1件)

  • [雑誌論文] On Gradient Descent Training Under Data Augmentation with On-Line Noisy Copies2023

    • 著者名/発表者名
      HAGIWARA Katsuyuki
    • 雑誌名

      IEICE Transactions on Information and Systems

      巻: E106.D 号: 9 ページ: 1537-1545

    • DOI

      10.1587/transinf.2023EDP7008

    • ISSN
      0916-8532, 1745-1361
    • 年月日
      2023-09-01
    • 関連する報告書
      2023 実施状況報告書
  • [雑誌論文] Investigation of an efficient method of oocyte retrieval by dual stimulation for patients with cancer2023

    • 著者名/発表者名
      Takeuchi Hiroki、Maezawa Tadashi、Hagiwara Katsuyuki、Horage Yuki、Hanada Tetsuro、Haipeng Huang、Sakamoto Mito、Nishioka Mikiko、Takayama Erina、Terada Kento、Kondo Eiji、Takai Yasushi、Suzuki Nao、Ikeda Tomoaki
    • 雑誌名

      Reproductive Medicine and Biology

      巻: 22 号: 1 ページ: 12534-12534

    • DOI

      10.1002/rmb2.12534

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Pregnancy Rates after Hysteroscopic Endometrial Polypectomy versus Endometrial Curettage Polypectomy: A Retrospective Study2023

    • 著者名/発表者名
      Nishioka Mikiko、Maezawa Tadashi、Takeuchi Hiroki、Hagiwara Katsuyuki、Tarui Sachiyo、Sakamoto Mito、Takayama Erina、Yajima Hideaki、Kondo Eiji、Kawato Hiroaki、Minoura Hiroyuki、Sugaya Ken、Fukuda Aisaku、Ikeda Tomoaki
    • 雑誌名

      Medicina

      巻: 59 号: 10 ページ: 1868-1868

    • DOI

      10.3390/medicina59101868

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Prediction-accuracy improvement of neural network to ferromagnetic multilayers by Gaussian data augmentation and ensemble learning2023

    • 著者名/発表者名
      Nawa Kenji、Hagiwara Katsuyuki、Nakamura Kohji
    • 雑誌名

      Computational Materials Science

      巻: 219 ページ: 112032-112032

    • DOI

      10.1016/j.commatsci.2023.112032

    • 関連する報告書
      2022 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Bridging between Soft and Hard Thresholding by Scaling2022

    • 著者名/発表者名
      HAGIWARA Katsuyuki
    • 雑誌名

      IEICE Transactions on Information and Systems

      巻: E105.D 号: 9 ページ: 1529-1536

    • DOI

      10.1587/transinf.2021EDP7223

    • ISSN
      0916-8532, 1745-1361
    • 年月日
      2022-09-01
    • 関連する報告書
      2022 実施状況報告書
  • [雑誌論文] Bridging between soft and hard thresholding by scaling2022

    • 著者名/発表者名
      Katsuyuki Hagiwara
    • 雑誌名

      arXiv

      巻: arXiv:2104.09703 ページ: 1-10

    • 関連する報告書
      2021 実施状況報告書
    • オープンアクセス
  • [図書] 入門 統計的回帰とモデル選択2022

    • 著者名/発表者名
      萩原 克幸
    • 総ページ数
      240
    • 出版者
      共立出版
    • ISBN
      9784320114814
    • 関連する報告書
      2022 実施状況報告書

URL: 

公開日: 2021-04-28   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi