• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2017 年度 実施状況報告書

高次元大規模信号データ処理のためのスケーラブル・リーマン多様体最適化とその応用

研究課題

研究課題/領域番号 16K00031
研究機関電気通信大学

研究代表者

笠井 裕之  電気通信大学, 大学院情報理工学研究科, 准教授 (40312079)

研究期間 (年度) 2016-04-01 – 2019-03-31
キーワード最適化 / ビッグデータ / テンソル解析 / 行列解析 / 確率的学習 / オンライン学習
研究実績の概要

様々なアプリケーションから収集されるデータを用いた行列・テンソル補完によるデータの可推定性を行うため,大規模データを対象とした解析手法のための最適化手法の確立と理論的収束解析を行った.特に,データの構造に着目し,直交性や正定値性,非負値性を考慮した最適化手法を提案するとともに,それらのオンライン・確率的学習手法を提案し,理論的解析(収束性および収束レート解析)を与えた.具体的には,直交性や正定値性拘束条件を多様体構造に埋め込み,多様体上での最適化手法の検討をさらに進めた.特に,大規模データを対象として,ユークリッド空間で近年盛んに研究されている確率的勾配法に着目し,多様体上での最適化手法への一般化に取り組んだ.ここでは,関数として測地線に沿った凸性を有する実数関数と凸性を有しない非凸関数にわけて,収束レートの検討を行った.これにより,ユークリッドユークリッド空間で得られる収束レートと同等のレートを得ることを示した.また非負値性を考慮した最適化手法についても,大規模データへの拡張性を有する手法として確率的勾配法の適用による収束速度の向上に取り組んだ.具体的には,従来の乗法的更新則を適応的ステップ幅を有する勾配法とみなし,ユークリッド空間で近年盛んに研究されている分散縮小確率的勾配法を組み込んだ手法を検討した.その結果,従来手法と比較して収束速度が向上することを実験的に確認することができた.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

データ構造制約に着目した多様体上での最適化アルゴリズム提案とその収束性解析を行った.またデータの正定値対称性,データの非負値制約性を考慮した最適化手法をそれぞれ提案し,その収束性解析を行った.さらに,データ肥大化を考慮したオンライン確率的最適化手法の共通評価基盤を構築し,GitHub上でオープンソース化した.また一方で,時系列データ解析のためのテンソル回帰手法の提案および有効性の評価を行った.

今後の研究の推進方策

実アプリケーションで利用されるデータを用いたシミュレーション環境上で実証を行っていく.特に,実証結果と確立した理論的成果との比較・考察に重きをおき,さらなるアルゴリズム高度化・理論的検証を行っていく.

次年度使用額が生じた理由

研究成果報告となる学会出張が2018年度になったため.採録決定しているため,今年度の支出を予定している.

  • 研究成果

    (11件)

すべて 2018 2017 その他

すべて 国際共同研究 (1件) 雑誌論文 (7件) (うち国際共著 2件、 査読あり 7件、 オープンアクセス 2件) 学会発表 (3件)

  • [国際共同研究] Amazon(インド)

    • 国名
      インド
    • 外国機関名
      Amazon
  • [雑誌論文] リーマン多様体上の最適化の基本と最新動向2018

    • 著者名/発表者名
      佐藤寛之,笠井裕之
    • 雑誌名

      システム制御情報学会学会誌「システム/制御/情報」

      巻: 62,1 ページ: 21-27

    • 査読あり
  • [雑誌論文] Riemannian stochastic quasi-Newton algorithm with variance reduction and its convergence analysis2018

    • 著者名/発表者名
      Hiroyuki Kasai, Hiroyuki Sato, Bamdev Mishra
    • 雑誌名

      21st International Conference on Artificial Intelligence and Statistics (AISTATS2018)

      巻: 印刷中 ページ: 印刷中

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] SGDLibrary: A MATLAB library for stochastic optimization algorithms2018

    • 著者名/発表者名
      Hiroyuki Kasai
    • 雑誌名

      Journal of Machine Learning Research (JMLR)

      巻: 印刷中 ページ: 印刷中

    • 査読あり
  • [雑誌論文] Stochastic variance reduced multiplicative update for nonnegative matrix factorization2018

    • 著者名/発表者名
      Hiroyuki Kasai
    • 雑誌名

      43rd IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP 2018)

      巻: 印刷中 ページ: 印刷中

    • 査読あり
  • [雑誌論文] Riemannian stochastic recursive gradient with retraction and vector transport and its convergence analysis2018

    • 著者名/発表者名
      Hiroyuki Kasai, Hiroyuki Sato, Bamdev Mishra
    • 雑誌名

      35th International Conference on Machine Learning (ICML2018)

      巻: 印刷中 ページ: 印刷中

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] State duration and interval modeling in hidden semi-Markov model for sequential data analysis2017

    • 著者名/発表者名
      Hiromi NARIMATSU, Hiroyuki KASAI
    • 雑誌名

      Springer, Annals of Mathematics and Artificial Intelligence

      巻: 81.3 ページ: 1573-7470

    • DOI

      https://doi.org/10.1007/s10472-017-9561-y

    • 査読あり
  • [雑誌論文] Sparse representation based classification with intra-class variation dictionary on symmetric positive definite matrices2017

    • 著者名/発表者名
      Hiroyuki Kasai and Kohei Yoshikawa
    • 雑誌名

      IEEE International Symposium on Signal Processing and Information Technology (ISSPIT)

      巻: 印刷中 ページ: 印刷中

    • 査読あり
  • [学会発表] Tucker多様体最適化によるテンソル学習と時空間情報予測のためのテンソル回帰問題への応用2018

    • 著者名/発表者名
      Hiroyuki KASAI, Bamdev MISHRA
    • 学会等名
      電子情報通信学会 信学技報告 モバイルネットワークとアプリケーション研究会(MoNA)
  • [学会発表] 正定値対称行列における次元削減と辞書学習の統合学習法とその応用2017

    • 著者名/発表者名
      笠井裕之
    • 学会等名
      情報処理学会オーディオビジュアル複合情報処理研究会(AVM)
  • [学会発表] 非負値行列因子分解のための確率的分散縮小乗法的更新手法の検討2017

    • 著者名/発表者名
      笠井裕之
    • 学会等名
      電子情報通信学会 ニューロコンピューティング研究会(NC)信学技報(NC2017-31)

URL: 

公開日: 2018-12-17  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi