• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

深層学習のための最適化アルゴリズムの高度化

研究課題

研究課題/領域番号 23K11246
研究種目

基盤研究(C)

配分区分基金
応募区分一般
審査区分 小区分61040:ソフトコンピューティング関連
研究機関法政大学

研究代表者

山岸 昌夫  法政大学, 理工学部, 准教授 (30638870)

研究期間 (年度) 2023-04-01 – 2027-03-31
研究課題ステータス 交付 (2023年度)
配分額 *注記
4,680千円 (直接経費: 3,600千円、間接経費: 1,080千円)
2026年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2025年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
2024年度: 1,820千円 (直接経費: 1,400千円、間接経費: 420千円)
2023年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
キーワード機械学習 / 連続最適化 / 大域的最適化 / 最急降下法 / 最適化アルゴリズム / 深層学習
研究開始時の研究の概要

「多層ニューラルネットワークの学習」は、ある種の誤差関数を最小化する問題として定式化されており、特定の誤差関数に対しては、厳密な最小化を実現できることが知られている。本研究では、高度な学習(例えば、学習後のニューラルネットワークに推論を効率的に実現できる機能を付加するなど)を目標とした誤差関数に対して、厳密な最小化を実現する最適化アルゴリズムの提案を目指す。

研究実績の概要

機械学習アルゴリズムは,数理最適化理論の高度化に支えられながら進化して続けている.「多層ニューラルネットワークの学習問題」は, 大域的な最適解を求めることが困難な問題の1つとして考えられてきたが,近年になり,基本的な反復アルゴリズムの代表例である最急降下法を用いて,特定の条件の下で大域的最適解が求められることが明らかになってきている.本研究では,これらの成果を拡張し,より広いクラスの学習問題とより広いクラスの反復アルゴリズムに対して,大域的な最適解への収束を保証するための条件を明らかにし,ニューラルネットワーク(NN)の学習理論に寄与することを目標としている.

今年度は,大域的最適化を目指す対象となるNNの構造を決定するべく,具体的な応用問題(視線動作分類)に対してNN型の手法を構築した.視線動作分類は,顔魅力評定時の評価者の視線運動に現れる特徴を用いて,視線運動情報から評価者の魅力評定値を推定する問題である.この問題を対象に,(i)評価者の個人差が大きく,個人差を考慮可能なNNの構造が有望であること,(ii)各個人ごとに別々のNNを準備することで高い推定精度を実現できること,(iii)各個人ごとのNNのパラメータの中でも,優れた推定精度を達成するものが局在する部分空間が存在すること,(iv)この特別な部分空間は,安直な目的関数に対して通常の最急降下法を素直に用いたとしても発見には至らないこと,などを実験的に明らかにすることに成功している.

現在までの達成度 (区分)
現在までの達成度 (区分)

3: やや遅れている

理由

様々な検討の結果,NNの構造に具体的な制約をかけることが避けられないような感触を得ている.それに伴い,適切な構造の検討に時間がかかってしまっている.

今後の研究の推進方策

研究実績の概要の(iv)で述べたとおり,視線動作分類を対象に検討したNNでは,安直な目的関数を対象に,通常の最急降下法を素直に用いたとしても,所望の部分空間の発見には至らないことが観察されている.この課題を主な対象とし,特別に設計されたNN・目的関数・それらに対する学習アルゴリズムの収束解析を検討する.

報告書

(1件)
  • 2023 実施状況報告書
  • 研究成果

    (3件)

すべて 2024 2023

すべて 学会発表 (3件)

  • [学会発表] 連合学習における更新情報の類似度に基づくビザンチン攻撃検出法2024

    • 著者名/発表者名
      大野 賢太,山岸 昌夫
    • 学会等名
      電子情報通信学会 音声・音響・信号処理ワークショップ
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] 顔魅力評定における視線停留時間の傾向分析に関する一考察2023

    • 著者名/発表者名
      浅井 和之,赤松 茂,山岸 昌夫
    • 学会等名
      画像電子学会年次大会
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] 運動時系列による熟練度判定のための特徴量選択に関する一考察2023

    • 著者名/発表者名
      山﨑 涼平,赤松 茂,山岸 昌夫
    • 学会等名
      画像電子学会年次大会
    • 関連する報告書
      2023 実施状況報告書

URL: 

公開日: 2023-04-13   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi