• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2022 Fiscal Year Research-status Report

多体問題におけるエンタングルメント構造の最適化とその応用

Research Project

Project/Area Number 20K03766
Research InstitutionKyoto University

Principal Investigator

原田 健自  京都大学, 情報学研究科, 助教 (80303882)

Project Period (FY) 2020-04-01 – 2024-03-31
Keywordsテンソルネットワーク / エンタングルメント / ネットワーク構造最適化 / ボルンマシン / パラメータ圧縮
Outline of Annual Research Achievements

本年度はテンソルネットワーク形式のネットワーク構造の最適化という観点から主に以下の2つの研究に取り組んだ。(1)テンソルネットワークを用いた生成モデルのネットワーク構造の最適化。生成モデルは機械学習の主要な技術の一つであり、多くの分野で活用されている。生成モデルの最もシンプルなタスクはデータ分布をパラメトライズした確率的モデルで近似することである。さまざまな手法でパラメータ化することが提案されているが、特に、我々は量子力学における観測結果の確率的な解釈をベースにした生成モデルに着目した。この手法はボルンマシンと呼ばれ、波動関数の絶対値の二乗を確率として、データ分布をモデル化する。波動関数を表すのに、行列積状態やバランスツリーなど、ツリー型のテンソルネットワークの適用が試みられ、ネットワーク構造がその性能に大きく影響することが確認されている。我々は、ツリー型のテンソルネットワーク構造を与えられたデータ分布を用いて最適化することを試みた。まず、ローカルなネットワーク構造の組み替えを繰り返すことで、基底状態計算の場合には、有効なエンタングルメント構造を反映したネットワーク構造が大域的に得られることがわかった。同様にデータ分布に対しては、組み替えを行う指標の工夫をすることにより、同じく良い性能を示すボルンマシンが得られることがわかった。(2)ニューラルネットワークのテンソル分解を用いたパラメータ圧縮の最適化。我々は機械学習の代表的なモデルであるニューラルネットワーク中のパラメータをテンソル分解を用いて圧縮するという提案に着目した。圧縮の度合いをエンタングルメントエントロピーで評価し、サンプルデータに応じて、テンソルネットワーク中のボンド自由度を変更する手法を提案し、実データや人工データに対して、この手法が機能することを示した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

ネットワーク構造の最適化を行うことで、新しい手法を2つの異なるテーマに対して提案でき、概ね順調に研究は進んでいる。しかし、コロナ禍の影響で、研究のための情報収集や研究交流は影響を受けた。

Strategy for Future Research Activity

生成モデルを表すテンソルネットワーク構造の最適化は性能の改善を実現したが、得られるネットワーク構造の解析が不十分である。ネットワーク構造の特性を研究することは、有用な初期ネットワーク構造の提案につながる。そのため、ネットワーク構造を特徴づける指標の研究を行う。ニューラルネットワークのパラメータ圧縮についての研究では、人工データセットの複雑さとテンソルネットワーク形式による圧縮度の関係を探り始めており、それを拡充することで系統的な調査研究を行なっていく。

Causes of Carryover

コロナ禍において、研究交流、研究会の参加のための出張等が困難であったため、旅費の執行がほとんど行えなかった。今後は研究交流や研究会参加などの活動を通常に戻し、かつ、計算資源の補充等も進めて、研究推進の施策を着実に進める。

  • Research Products

    (6 results)

All 2023 2022

All Journal Article (1 results) (of which Peer Reviewed: 1 results,  Open Access: 1 results) Presentation (5 results)

  • [Journal Article] Automatic structural optimization of tree tensor networks2023

    • Author(s)
      Hikihara Toshiya、Ueda Hiroshi、Okunishi Kouichi、Harada Kenji、Nishino Tomotoshi
    • Journal Title

      Physical Review Research

      Volume: 5 Pages: 013031

    • DOI

      10.1103/PhysRevResearch.5.013031

    • Peer Reviewed / Open Access
  • [Presentation] ネットワーク構造最適化を含んだツリーテンソルネットワーク法の開発II2023

    • Author(s)
      引原俊哉
    • Organizer
      日本物理学会 2023年春期大会(オンライン)
  • [Presentation] テンソル化深層学習における圧縮性能の解析2023

    • Author(s)
      原田健自
    • Organizer
      日本物理学会 2023年春期大会(オンライン)
  • [Presentation] ネットワーク構造最適化を含んだツリーテンソルネットワーク法の開発2022

    • Author(s)
      引原俊哉
    • Organizer
      日本物理学会 2022年秋季大会(東京工業大学)
  • [Presentation] テンソルネットワーク状態を用いた教師なし生成モデルのネットワーク構造の最適化2022

    • Author(s)
      原田健自
    • Organizer
      日本物理学会 2022年秋季大会(東京工業大学)
  • [Presentation] 行列積状態を用いたテンソル化深層学習における最適ランクの推定2022

    • Author(s)
      阿蘇品侑雅
    • Organizer
      日本物理学会 2022年秋季大会(東京工業大学)

URL: 

Published: 2023-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi