• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2021 Fiscal Year Annual Research Report

An information-geometric approach to quantum statistical physics using log-linear models on posets

Research Project

Project/Area Number 20J23179
Research InstitutionThe Graduate University for Advanced Studies

Principal Investigator

ガラムカリ 和  総合研究大学院大学, 複合科学研究科, 特別研究員(DC1)

Project Period (FY) 2020-04-24 – 2023-03-31
Keywords行列分解 / 情報幾何学 / テンソル分解 / ランク1分解 / 低ランク近似
Outline of Annual Research Achievements

柔軟なモデリングを可能にする半順序集合上の対数線形モデルを用いて,情報幾何学的な観点から,行列やテンソルに関する様々なタスクの効率的な解法を研究してきた.
まず、非負テンソルに対して,ランク1近似を求める解析解を情報幾何学的に解釈し,拡張することで,勾配法を必要としない低ランク近似アルゴリズムを構築することに成功した.勾配法を用いないため,初期値や学習率に左右されることなく,安定して解を得ることができる.実データを用いた実験において,既存の低ランク近似アルゴリズムと同等の近似精度を達成しつつ,10倍程度高速に処理できることを示した.
さらに,複数の行列を因子を共有しながら分解する複合行列因子分解に注目した.まず,適切な半順序集合を設計することで,複数の行列を1つの対数線形モデルと対応付けられることを示した.次に,複数の行列が因子を共有しながらランク1になる場合の必要十分条件を,対数線形モデルのパラメータで記述し,この拘束条件を満たす部分空間への射影として,複合行列因子分解を定式化した.そのうえで,情報幾何学の射影の一般論を用いることで,KL情報量で定義されるコスト関数を最小化する複合行列因子分解の最良ランク1近似公式を導出することに成功した.また,複合行列分解と欠損を含む行列因子分解との既知の関係に注目し,この公式に応用として,欠損を含む非負行列因子分解の高速な解法A1GMを開発した.A1GMは勾配法に基づかないため,初期値や学習率,収束判定に適切な設計の工数を削減できるという利点がある.

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

半順序集合上の対数線形モデルの柔軟性を活かし、テンソル分解のみならず複数の行列の同時分解の高速手法が開発できたのは予期せぬ進展であった。これらの結果は、既にトップ会議2報に採択されており、進捗は順調である。

Strategy for Future Research Activity

令和3年度までに議論したテンソル分解や複合行列の分解では、欠損値を含むデータを扱うことはできない。しかし、実際のデータには多くの場合、欠損値が含まれる。令和4年度は令和3年度の研究成果を、欠損値を含むデータに対応できるように拡張する。具体的には、行列やテンソルで与えられたテーブルデータの欠損構造を半順序集合を用いることでモデル化し、欠損値を含む行列/テンソル分解の情報幾何学的な議論を行う。

  • Research Products

    (5 results)

All 2022 2021

All Journal Article (2 results) (of which Peer Reviewed: 2 results,  Open Access: 2 results) Presentation (3 results) (of which Invited: 1 results)

  • [Journal Article] Fast Rank-1 NMF for Missing Data with KL Divergence2022

    • Author(s)
      Kazu Ghalamkari, Mahito Sugiyama
    • Journal Title

      The 25th International Conference on Artificial Intelligence and Statistics

      Volume: - Pages: -

    • Peer Reviewed / Open Access
  • [Journal Article] Fast Tucker Rank Reduction for Non-Negative Tensors Using Mean-Field Approximation2021

    • Author(s)
      Kazu Ghalamkari, Mahito Sugiyama
    • Journal Title

      Advances in Neural Information Processing Systems

      Volume: 34 Pages: 443--454

    • Peer Reviewed / Open Access
  • [Presentation] 欠損を含む非負行列の高速なランク1分解2022

    • Author(s)
      ガラムカリ和, 杉山麿人
    • Organizer
      人工知能学会 第120回人工知能基本問題研究会(SIG-FPAI)
  • [Presentation] 平均場近似を用いた非負テンソルの高速な低ランク近似法2022

    • Author(s)
      ガラムカリ和
    • Organizer
      第6回 統計・機械学習若手シンポジウム 2022.2 招待講演
    • Invited
  • [Presentation] 対数線形モデルの期待値保存則に基づく高速な低タッカーランク2021

    • Author(s)
      ガラムカリ和, 杉山麿人
    • Organizer
      第24回 情報論的学習理論ワークショップ(IBIS2021)

URL: 

Published: 2022-12-28  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi