• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2021 年度 実施状況報告書

ブロックデザインのディープラーニングへの応用とその構成

研究課題

研究課題/領域番号 19K11866
研究機関東京理科大学

研究代表者

宮本 暢子  東京理科大学, 理工学部情報科学科, 教授 (20318207)

研究分担者 三嶋 美和子  岐阜大学, 工学部, 教授 (00283284)
地嵜 頌子  大阪工業大学, 情報科学部, 講師 (90778250)
研究期間 (年度) 2019-04-01 – 2023-03-31
キーワードドロップアウトデザイン / ディープラーニング / ブロックデザイン / ドロップアウト法
研究実績の概要

ディープラーニングにおいて過学習を避けるための手法の一つとしてドロップアウトがある。これは学習の度にランダムに非活性化させるノードを選び、毎回異なる重み付けをすることで汎化性能を高める手法である。本研究ではドロップアウト法に統計的実験計画法で用いられるブロックデザインを活用するため、ド ロップアウトデザインと呼ばれる新しいデザインを定義した。ドロップアウトデザインは、2因子実験における統計モデルとしての最適性を保持するsplit block design と呼ばれるブロックデザインを拡張したものであり、各層の各ノードが等頻度で学習に組み込まれるだけでなく、各層のノード間を結ぶ辺の出現頻度を 均一にするような特性を持つデザインである。研究目的として(1)ドロップアウトデザインの構成手法の提案, (2)ドロップアウトデザインの有効性の検証があ る。
(1)について、層数を任意に設定できるようにするため巡回性をもつドロップアウトデザインを定義し, その構成法をアフィン幾何を用いて提案した。
(2)について、データセットはCIFAR-10と, 一様分布からランダムサンプリングしたデータに対して作成した,10クラス分類用データセットの2種類を準備し、 ネットワークとして多層パーセプトロンと畳み込みニューラルネットワークの2種類を用い、dropout designを用いた学習, ランダムなdropout法を用いた学習, dropout法を使わない学習の3つに対する実験を行った。訓練データに対する損失, テストデータに対する損失, 訓練精度, テスト精度の解析を行っている途中段階である。

現在までの達成度 (区分)
現在までの達成度 (区分)

3: やや遅れている

理由

2020年度, 21年度とコロナ禍による教育の様式変化に対応するため,当初の予定通りの研究時間を創出すること, また研究打ち合わせ,成果発表などを行うことができなかった。また,ドロップアウトデザインを用いた実験においては,繰り返し実験データを得るのに時間を要することや,種々の設定(設定条件などを変化させて)において試すことにも時間を要していることから研究期間の延長を行った.

今後の研究の推進方策

これまでと同様に様々なパラメータをもつドロップアウトデザインの構成手法をの提案を考える。また,各ドロップアウトデザインを用いた学習を行う実験のデータを比較検証することで、どのようなパラメータを持つドロップアウトデザインが有効なのか、どのようなタイプの学習に有効なのかといった観点からさらに研究をすすめていきたいと考える。

次年度使用額が生じた理由

ロナ禍の影響により当初の研究計画に比べて進捗状況が遅れているため,次年度への研究延長を申請した.2022年度は研究打ち合わせ,学会発表等計画通り遂行予定である.

  • 研究成果

    (3件)

すべて 2022 2021

すべて 雑誌論文 (1件) (うち査読あり 1件) 学会発表 (2件)

  • [雑誌論文] A construction for circulant type dropout designs2021

    • 著者名/発表者名
      Shoko Chisaki, Ryoh Fuji-Hara, Nobuko Miyamoto
    • 雑誌名

      Designs, Codes and Cryptography

      巻: 89 ページ: 1839-1852

    • DOI

      10.1007/s10623-021-00890-8

    • 査読あり
  • [学会発表] Optimality of spanning bipartite block designs2022

    • 著者名/発表者名
      地嵜頌子, 栗木進二, 藤原良, 宮本暢子
    • 学会等名
      日本数学会2022年度年会統計数学分科会
  • [学会発表] A construction of spanning bipartite block designs2021

    • 著者名/発表者名
      地嵜頌子, 宮本暢子, 藤原良
    • 学会等名
      日本数学会2021年度秋季総合分科会 統計数学分科会

URL: 

公開日: 2022-12-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi