• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

ビッグデータ機械学習のためのスケーラブルな非線形非凸多様体最適化手法

研究課題

研究課題/領域番号 19K12115
研究種目

基盤研究(C)

配分区分基金
応募区分一般
審査区分 小区分61030:知能情報学関連
研究機関早稲田大学

研究代表者

笠井 裕之  早稲田大学, 理工学術院, 教授 (40312079)

研究期間 (年度) 2019-04-01 – 2022-03-31
研究課題ステータス 完了 (2021年度)
配分額 *注記
4,290千円 (直接経費: 3,300千円、間接経費: 990千円)
2021年度: 1,820千円 (直接経費: 1,400千円、間接経費: 420千円)
2020年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
2019年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
キーワード最適化 / 多様体 / 確率的勾配法 / 最適輸送問題 / Wasserstein距離 / リーマン多様体 / 深層学習 / 機械学習 / 多様体最適化 / ビッグデータ / 非線形非凸
研究開始時の研究の概要

本研究では,スケーラブルな非線形非凸多様体最適化手法について研究する.具体的には,直交部分空間や正定値行列等の多様体制約付き深層学習のための深層学習確率的勾配法,二次最適性を実現する非厳密三次正則化法及び非厳密信頼領域,緩和更新処理に基づく確率的勾配法,またそれらの応用,オープンソフトウェアの公開と実データを用いた評価,について研究する.

研究成果の概要

本研究では,ビッグデータを用いた実応用における品質精度と処理量効率性の大幅な向上を達成することを目指してリーマン多様体最適化手法に着目し,スケーラブルな非線形非凸多様体最適化手法について研究した.幾何的(多様体)制約付き深層学習のための深層学習確率的勾配法,二次最適性を実現する非厳密信頼領域,またそれらの応用について研究した.さらに,最適輸送問題の最適化手法とその応用について研究した.

研究成果の学術的意義や社会的意義

多くの検討の対象がユークリッド空間を対象としているのに対して,本研究が対象とする空間はリーマン多様体であることから,その間に大きな理論上・実装上・実応用上の隔たりがある.リーマン多様体最適化は,従来のユークリッド空間における制約付き最適化とは全く思想が異なり,近年研究が本格化された極めて新しい手法である.日本国内での理論的・実践的研究例は極めて少ない.本研究は,これまでの応募者の研究成果を発展させ,近年進展が著しい深層学習についてリーマン多様体最適化の視点からアプローチするものであり,他に例を見ない極めて斬新な取り組みである.

報告書

(4件)
  • 2021 実績報告書   研究成果報告書 ( PDF )
  • 2020 実施状況報告書
  • 2019 実施状況報告書
  • 研究成果

    (23件)

すべて 2021 2020 2019 その他

すべて 国際共同研究 (1件) 雑誌論文 (10件) (うち国際共著 2件、 査読あり 10件、 オープンアクセス 2件) 学会発表 (12件) (うち招待講演 1件)

  • [国際共同研究] マイクロソフト(インド)

    • 関連する報告書
      2019 実施状況報告書
  • [雑誌論文] Block-coordinate Frank-Wolfe algorithm and convergence analysis for semi-relaxed OT problem2021

    • 著者名/発表者名
      Takumi Fukunaga and Hiroyuki Kasai
    • 雑誌名

      IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)

      巻: NA ページ: 5433-5437

    • DOI

      10.1109/icassp43922.2022.9746032

    • 関連する報告書
      2021 実績報告書
    • 査読あり
  • [雑誌論文] LCS graph kernel based on Wasserstein distance in longest common subsequence metric space2021

    • 著者名/発表者名
      JianmingHuang, Zhongxi Fang, and HiroyukiKasai
    • 雑誌名

      Signal Processing

      巻: 189 ページ: 1-13

    • DOI

      10.1016/j.sigpro.2021.108281

    • 関連する報告書
      2021 実績報告書
    • 査読あり
  • [雑誌論文] Graph embedding using multi-layer adjacent point merging model2021

    • 著者名/発表者名
      J. Huang and H. Kasai
    • 雑誌名

      IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)

      巻: 0 ページ: 0-0

    • 関連する報告書
      2020 実施状況報告書
    • 査読あり
  • [雑誌論文] Riemannian optimization on the simplex of positive definite matrices2020

    • 著者名/発表者名
      B. Mishra, H. Kasai, and P. Jawanpuria
    • 雑誌名

      NeurIPS workshop OPT2020

      巻: 0 ページ: 0-0

    • 関連する報告書
      2020 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Consistency-aware and inconsistency-aware graph-based multi-view clustering2020

    • 著者名/発表者名
      M. Horie and H. Kasai
    • 雑誌名

      28th International European Signal Processing Conference (EUSIPCO) 2020

      巻: 0 ページ: 0-0

    • DOI

      10.23919/eusipco47968.2020.9287516

    • 関連する報告書
      2020 実施状況報告書
    • 査読あり
  • [雑誌論文] Wasserstein k-means with sparse simplex projection2020

    • 著者名/発表者名
      T. Fukunaga and H. Kasai
    • 雑誌名

      25th International Conference on Pattern Recognition (ICPR) 2020

      巻: 0 ページ: 0-0

    • DOI

      10.1109/icpr48806.2021.9412131

    • 関連する報告書
      2020 実施状況報告書
    • 査読あり
  • [雑誌論文] Multi-view Wasserstein discriminant analysis with entropic regularized Wasserstein distance2020

    • 著者名/発表者名
      Hiroyuki Kasai
    • 雑誌名

      IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)

      巻: NA ページ: 1-5

    • DOI

      10.1109/icassp40776.2020.9054427

    • NAID

      40022116900

    • 関連する報告書
      2019 実施状況報告書
    • 査読あり
  • [雑誌論文] Sequential Semi-Orthogonal Multi-Level NMF with Negative Residual Reduction for Network Embedding2020

    • 著者名/発表者名
      Riku Hashimoto, Hiroyuki Kasai
    • 雑誌名

      IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)

      巻: NA ページ: 1-5

    • DOI

      10.1109/icassp40776.2020.9054660

    • NAID

      40022116893

    • 関連する報告書
      2019 実施状況報告書
    • 査読あり
  • [雑誌論文] Overlapped State Hidden Semi-Markov Model for Grouped Multiple Sequences2020

    • 著者名/発表者名
      Hiromi Narimatsu, Hiroyuki Kasai
    • 雑誌名

      IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)

      巻: NA ページ: 1-5

    • DOI

      10.1109/icassp40776.2020.9054136

    • 関連する報告書
      2019 実施状況報告書
    • 査読あり
  • [雑誌論文] Riemannian adaptive stochastic gradient algorithms on matrix manifolds2019

    • 著者名/発表者名
      Hiroyuki Kasai, Pratik Kumar Jawanpuria, Bamdev Mishra
    • 雑誌名

      36th International Conference on Machine Learning (ICML2019)

      巻: PMLR 97 ページ: 3262-3271

    • 関連する報告書
      2019 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [学会発表] エントロピー正則付き半緩和最適輸送問題におけるSinkhornアルゴリズムに関する検討2021

    • 著者名/発表者名
      福永 拓海, 笠井 裕之
    • 学会等名
      情報処理学会AVM研究会
    • 関連する報告書
      2021 実績報告書
  • [学会発表] 隣接要素関係性の自動重み付けによる最適輸送シーケンスマッチング2021

    • 著者名/発表者名
      堀江 光彦, 笠井 裕之
    • 学会等名
      情報処理学会AVM研究会
    • 関連する報告書
      2021 実績報告書
  • [学会発表] 嘉村 雅志, 笠井 裕之2021

    • 著者名/発表者名
      大域的な順序変更に対応するDTWを用いたシーケンスマッチング手法の検討
    • 学会等名
      人工知能学会全国大会論文集
    • 関連する報告書
      2021 実績報告書
  • [学会発表] 質量制御最適輸送によるグラフ構造比較手法2021

    • 著者名/発表者名
      方 鐘熙, 黄 健明, 笠井 裕之
    • 学会等名
      人工知能学会全国大会論文集
    • 関連する報告書
      2021 実績報告書
  • [学会発表] Frank-Wolfeアルゴリズムに基づく緩和最適輸送問題のための高速最適化手法の検討2021

    • 著者名/発表者名
      福永 拓海, 笠井 裕之
    • 学会等名
      人工知能学会全国大会論文集
    • 関連する報告書
      2021 実績報告書
  • [学会発表] 緩和最適輸送問題のための Frank-Wolfeアルゴリズム高速化手法と色転写問題への応用2021

    • 著者名/発表者名
      福永拓海,笠井裕之
    • 学会等名
      情報処理学会AVM研究会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] 隣接要素の関連と時間分布の違いを考慮したグループ化シーケンスマッチング手法の検討2021

    • 著者名/発表者名
      堀江光彦,笠井裕之
    • 学会等名
      情報処理学会AVM研究会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] OT-based graph similarity using shortest-path length,2020

    • 著者名/発表者名
      Z. Fang and H. Kasai
    • 学会等名
      情報処理学会AVM研究会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] A Wasserstein graph kernel based on substructure isomorphism problem of shortest paths2020

    • 著者名/発表者名
      J. Huang and H. Kasai
    • 学会等名
      情報処理学会AVM研究会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] ネットワーク・ワードエンベディングのための負値残差低減および半直交制約付き非負値行列分解2019

    • 著者名/発表者名
      橋本陸 ,笠井裕之
    • 学会等名
      研究報告オーディオビジュアル複合情報処理(AVM)
    • 関連する報告書
      2019 実施状況報告書
  • [学会発表] エントロピー正則化Wasserstein距離に基づくマルチビューWasserstein判別法2019

    • 著者名/発表者名
      笠井裕之
    • 学会等名
      研究報告オーディオビジュアル複合情報処理(AVM)
    • 関連する報告書
      2019 実施状況報告書
  • [学会発表] 非線形構造制約付き大規模機械学習問題への取り組み ~非厳密リーマン多様体最適化の理論と応用~2019

    • 著者名/発表者名
      笠井裕之
    • 学会等名
      研究報告オーディオビジュアル複合情報処理(AVM)
    • 関連する報告書
      2019 実施状況報告書
    • 招待講演

URL: 

公開日: 2019-04-18   更新日: 2023-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi