• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2022 Fiscal Year Annual Research Report

Rank estimation and optimization methods for tensor network decomposition, and its applications

Research Project

Project/Area Number 20H04208
Research InstitutionNagoya Institute of Technology

Principal Investigator

横田 達也  名古屋工業大学, 工学(系)研究科(研究院), 准教授 (80733964)

Co-Investigator(Kenkyū-buntansha) ZHAO QIBIN  国立研究開発法人理化学研究所, 革新知能統合研究センター, チームリーダー (30599618)
本谷 秀堅  名古屋工業大学, 工学(系)研究科(研究院), 教授 (60282688)
Project Period (FY) 2020-04-01 – 2023-03-31
Keywordsテンソル分解 / ランダム化アルゴリズム / ランク推定 / CP分解 / タッカー分解 / テンソルトレイン分解 / テンソルネットワーク
Outline of Annual Research Achievements

本研究の目的はテンソルネットワーク分解のランク推定や高速化における最適化理論およびアルゴリズムの開発や応用展開を行うことである。
ベイズモデリングを用いたCP分解のランク推定の研究では,MGPを用いたランク減衰の事前知識をベイズCP分解へ導入することで効率的かつ高精度なランク推定が行えることを明らかにした。この研究は国内会議および国際学術誌で発表された。
ランダム化アルゴリズムを用いたテンソル分解の高速化の研究では,タッカー分解やテンソルトレイン分解においてさまざまなランダム化アルゴリズム(ランダムSVD,クリロフ部分空間法,スケッチ,サンプリングなど)の適用について検討した。大規模な問題をより効率的に扱うためにはランク推定も重要となることが分かり,貪欲法に基づくランク推定と組み合わせる手法などを開発した。この成果は国内会議で発表した。
遅延埋め込みに基づくテンソル分解の研究では,高速フーリエ変換を用いた高速アルゴリズムを開発した。ハンケルテンソルの冗長性に着目しフーリエ係数によってコンパクトな表現が可能であることを用いて大幅な高速化が可能となった。この成果は国際会議CVPRで発表された。また,高速ハンケルテンソル分解のコスト関数の収束性に関する研究を行い国際会議APSIPAで発表した。これに関連して行列積ではなく畳み込み積に基づく行列分解として「畳み込み行列分解」の研究を行った。これは国際会議APSIPAで発表された。
また,テンソル分解全般の研究に関してMIRU,離散研究会,電子情報通信学会総合大会の3つの国内会議にて講演を行った。

Research Progress Status

令和4年度が最終年度であるため、記入しない。

Strategy for Future Research Activity

令和4年度が最終年度であるため、記入しない。

  • Research Products

    (17 results)

All 2023 2022 Other

All Int'l Joint Research (1 results) Journal Article (2 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 2 results,  Open Access: 2 results) Presentation (14 results) (of which Int'l Joint Research: 9 results,  Invited: 3 results)

  • [Int'l Joint Research] CONICET(アルゼンチン)

    • Country Name
      ARGENTINA
    • Counterpart Institution
      CONICET
  • [Journal Article] Bayesian Tensor Completion and Decomposition with Automatic CP Rank Determination Using MGP Shrinkage Prior2022

    • Author(s)
      Takayama Hiromu、Zhao Qibin、Hontani Hidekata、Yokota Tatsuya
    • Journal Title

      SN Computer Science

      Volume: 3 Pages: 1-17

    • DOI

      10.1007/s42979-022-01119-8

    • Peer Reviewed / Open Access
  • [Journal Article] Manifold Modeling in Embedded Space: An Interpretable Alternative to Deep Image Prior2022

    • Author(s)
      Yokota Tatsuya、Hontani Hidekata、Zhao Qibin、Cichocki Andrzej
    • Journal Title

      IEEE Transactions on Neural Networks and Learning Systems

      Volume: 33 Pages: 1022~1036

    • DOI

      10.1109/TNNLS.2020.3037923

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Presentation] 遅延埋め込み空間におけるテンソル分解と多様体学習2023

    • Author(s)
      横田達也
    • Organizer
      電子情報通信学会総合大会
    • Invited
  • [Presentation] Memorization Weights for Instance Reweighting in Adversarial Training2023

    • Author(s)
      Jianfu Zhang, Yan Hong, and Qibin Zhao
    • Organizer
      AAAI
    • Int'l Joint Research
  • [Presentation] Fast Algorithm for Low-rank Tensor Completion in Delay-embedded Space2022

    • Author(s)
      R. Yamamoto, H. Hontani, A. Imakura, and T. Yokota
    • Organizer
      CVPR
    • Int'l Joint Research
  • [Presentation] Fast Signal Completion Algorithm With Cyclic Convolutional Smoothing2022

    • Author(s)
      H. Takayama, and T. Yokota
    • Organizer
      APSIPA-ASC
    • Int'l Joint Research
  • [Presentation] Consistent MDT-Tucker: A Hankel Structure Constrained Tucker Decomposition in Delay Embedded Space2022

    • Author(s)
      R. Yamamoto, H. Hontani, A. Imakura, and T. Yokota
    • Organizer
      APSIPA-ASC
    • Int'l Joint Research
  • [Presentation] MGP縮退事前分布を用いたテンソル補完及びランク決定法2022

    • Author(s)
      高山拓夢,Qibin Zhao,本谷秀堅,横田達也
    • Organizer
      情報論的学習理論ワークショップ(IBIS2022)
  • [Presentation] ランダム化アルゴリズムを用いたテンソル分解の高速化2022

    • Author(s)
      渡邉大樹,本谷秀堅,横田達也
    • Organizer
      信号処理シンポジウム
  • [Presentation] テンソル分解の基礎と応用2022

    • Author(s)
      横田達也
    • Organizer
      MIRU2022
    • Invited
  • [Presentation] テンソル分解のアルゴリズムとその応用2022

    • Author(s)
      横田達也
    • Organizer
      離散的手法による場と時空のダイナミクス2022
    • Invited
  • [Presentation] Are we pruning the correct channels in image-to-image translation models2022

    • Author(s)
      Yiyong Li, Zhun Sun, Chao Li
    • Organizer
      BMVC
    • Int'l Joint Research
  • [Presentation] Rethinking Prototypical Contrastive Learning through Alignment, Uniformity and Correlation2022

    • Author(s)
      Shentong Mo, Zhun Sun, Chao Li
    • Organizer
      BMVC
    • Int'l Joint Research
  • [Presentation] MMT: Multi-Way Multi-Modal Transformer for Multimodal Learning2022

    • Author(s)
      Jiajia Tang, Kang Li1, Ming Hou, Xuanyu Jin, Wanzeng Kong, Yu Ding and Qibin Zhao
    • Organizer
      IJCAI
    • Int'l Joint Research
  • [Presentation] SPD domain-specific batch normalization to crack interpretable unsupervised domain adaptation in EEG2022

    • Author(s)
      Reinmar J. Kobler, Jun-ichiro Hirayama, Qibin Zhao, Motoaki Kawanabe
    • Organizer
      NeurIPS
    • Int'l Joint Research
  • [Presentation] Permutation Search of Tensor Network Structures via Local Sampling2022

    • Author(s)
      Chao Li, Junhua Zeng, Zerui Tao, Qibin Zhao
    • Organizer
      ICML
    • Int'l Joint Research

URL: 

Published: 2023-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi