• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

An information-geometric approach to quantum statistical physics using log-linear models on posets

Research Project

Project/Area Number 20J23179
Research Category

Grant-in-Aid for JSPS Fellows

Allocation TypeSingle-year Grants
Section国内
Review Section Basic Section 60020:Mathematical informatics-related
Research InstitutionThe Graduate University for Advanced Studies

Principal Investigator

ガラムカリ 和  総合研究大学院大学, 複合科学研究科, 特別研究員(DC1)

Project Period (FY) 2020-04-24 – 2023-03-31
Project Status Completed (Fiscal Year 2022)
Budget Amount *help
¥3,100,000 (Direct Cost: ¥3,100,000)
Fiscal Year 2022: ¥1,000,000 (Direct Cost: ¥1,000,000)
Fiscal Year 2021: ¥1,000,000 (Direct Cost: ¥1,000,000)
Fiscal Year 2020: ¥1,100,000 (Direct Cost: ¥1,100,000)
Keywordsテンソル分解 / テンソルネットワーク / 低ランク近似 / 情報幾何学 / 行列分解 / ランク1分解
Outline of Research at the Start

様々な機械学習アルゴリズムを情報幾何学を用いて,統一的・体系的な観点から見通し良く整理し,アルゴリズム同士の幾何的な関係性を指摘し,従来より強力な機械学習アルゴリズムの設計を可能にする.例えば,行列バランシングと低ランク近似という全く異なるタスクを情報幾何学の枠組みで記述すると,どちらもパラメータ空間内の部分空間への射影として捉えることができる.こうした理論的背景を発見することによって,複数のタスクを同時に解くアルゴリズムの実装や,計算量の削減を試みる.

Outline of Annual Research Achievements

令和四年度は,昨年度に開発した行列の同時分解に関する効率的なアルゴリズムを拡張し,複数の行列がより複雑に基底を共有する場合にも適用できる分解手法を提案した.この結果は,Information Geometry 誌に採択された.また,令和三年度まで扱っていたテンソルの低ランク近似は,その最適化における不安定性や,不良設定性,最適なランクの決定に関する困難性が知られている.そこで,テンソルのランクではなくモード間の相互作用に着目する新しいテンソル分解を開発した.モード間の相互作用を情報幾何学の自然パラメータで制御できることを発見し,隠れ変数のないボルツマンマシンの多準位かつ高次の相互作用を許す拡張としてテンソル多体近似を定式化した.従来のテンソル分解では予め分解のランクを指定する必要があったが,本手法ではエネルギー関数を用いてモード間の相互作用の有無や次数を指定する.従来の低ランク近似が潜在変数を用いる分解として解釈できる一方,本手法は可視変数のみを用いる分解であるため,解の一意性や分解表現の優れた解釈性を有する.また,テンソル内の相互作用を直感的に記述する相互作用表示を導入し,この相互作用表示をテンソルネットワークに変換することで,従来の低ランク近似とテンソル多体近似との関係性も明らかにした.更にこの手法の応用として,テンソル形式のデータの欠損補完法を開発した.以上の結果についてのプレプリントは既に公開し,現在国際会議に投稿中である.

Research Progress Status

令和4年度が最終年度であるため、記入しない。

Strategy for Future Research Activity

令和4年度が最終年度であるため、記入しない。

Report

(3 results)
  • 2022 Annual Research Report
  • 2021 Annual Research Report
  • 2020 Annual Research Report
  • Research Products

    (11 results)

All 2023 2022 2021 2020

All Journal Article (3 results) (of which Peer Reviewed: 3 results,  Open Access: 3 results) Presentation (8 results) (of which Int'l Joint Research: 2 results,  Invited: 1 results)

  • [Journal Article] Non-negative low-rank approximations for multi-dimensional arrays on statistical manifold2023

    • Author(s)
      Ghalamkari Kazu, Sugiyama Mahito
    • Journal Title

      Information Geometry

      Volume: - Issue: 1 Pages: 257-292

    • DOI

      10.1007/s41884-023-00100-5

    • Related Report
      2022 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] Fast Rank-1 NMF for Missing Data with KL Divergence2022

    • Author(s)
      Kazu Ghalamkari, Mahito Sugiyama
    • Journal Title

      The 25th International Conference on Artificial Intelligence and Statistics

      Volume: -

    • Related Report
      2021 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] Fast Tucker Rank Reduction for Non-Negative Tensors Using Mean-Field Approximation2021

    • Author(s)
      Kazu Ghalamkari, Mahito Sugiyama
    • Journal Title

      Advances in Neural Information Processing Systems

      Volume: 34

    • Related Report
      2021 Annual Research Report
    • Peer Reviewed / Open Access
  • [Presentation] Non-negative low-rank approximations for multi-dimensional arrays on statistical manifold2022

    • Author(s)
      Kazu Ghalamkari, Mahito Sugiyama
    • Organizer
      The International Conference on Information Geometry for Data Science (IG4DS2022)
    • Related Report
      2022 Annual Research Report
    • Int'l Joint Research
  • [Presentation] テンソルの部分二体相互作用近似2022

    • Author(s)
      ガラムカリ 和, 杉山 麿人
    • Organizer
      第25回 情報論的学習理論ワークショップ(IBIS2022)
    • Related Report
      2022 Annual Research Report
  • [Presentation] 欠損を含む非負行列の高速なランク1分解2022

    • Author(s)
      ガラムカリ和, 杉山麿人
    • Organizer
      人工知能学会 第120回人工知能基本問題研究会(SIG-FPAI)
    • Related Report
      2021 Annual Research Report
  • [Presentation] 平均場近似を用いた非負テンソルの高速な低ランク近似法2022

    • Author(s)
      ガラムカリ和
    • Organizer
      第6回 統計・機械学習若手シンポジウム 2022.2 招待講演
    • Related Report
      2021 Annual Research Report
    • Invited
  • [Presentation] 対数線形モデルの期待値保存則に基づく高速な低タッカーランク2021

    • Author(s)
      ガラムカリ和, 杉山麿人
    • Organizer
      第24回 情報論的学習理論ワークショップ(IBIS2021)
    • Related Report
      2021 Annual Research Report
  • [Presentation] 平均場近似に基づく正テンソルの最良ランク1近似2021

    • Author(s)
      ガラムカリ和, 杉山麿人
    • Organizer
      第35回 人工知能学会全国大会
    • Related Report
      2020 Annual Research Report
  • [Presentation] 統計多様体における行列ランク削減,行列バランシング,平均場近似2020

    • Author(s)
      ガラムカリ和, 杉山麿人
    • Organizer
      第23回 情報論的学習理論ワークショップ
    • Related Report
      2020 Annual Research Report
  • [Presentation] Towards Geometric Understanding of Low-Rank Approximation2020

    • Author(s)
      Kazu Ghalamkari, Mahito Sugiyama
    • Organizer
      NeurIPS 2020 DiffGeo4DL Online
    • Related Report
      2020 Annual Research Report
    • Int'l Joint Research

URL: 

Published: 2020-07-07   Modified: 2024-03-26  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi