• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2020 Fiscal Year Research-status Report

ブラックボックス微分方程式モデルに対する保存則抽出手法とネットワーク解析への応用

Research Project

Project/Area Number 20K11693
Research InstitutionKobe University

Principal Investigator

谷口 隆晴  神戸大学, システム情報学研究科, 准教授 (10396822)

Project Period (FY) 2020-04-01 – 2024-03-31
Keywords深層学習 / Koopman作用素
Outline of Annual Research Achievements

2020年度は深層学習を用いたエネルギーベースの離散時間物理モデルの構築などを行った.力学の基礎方程式であるハミルトン方程式や,フェーズフィールドモデルなどはエネルギーを用いて方程式が記述されており,それぞれ,エネルギーが保存される,あるいは,減衰するという性質をもつ.これらは非常に重要な性質であるが,一般に,時間離散モデルになるとこのような性質は失われてしまう.本研究では,これらのエネルギー挙動を保ったまま,データから離散時間物理モデルを構築するための深層学習に基づくモデルを提案した.このモデルでは,エネルギー関数が多層パーセプトロンなどでモデル化されており,自動離散微分というアルゴリズムを用いて,離散版のエネルギー勾配を求め,離散版の運動方程式を導出する.
この研究に加え,時間発展型ネットワークに対して,Koopman作用素を利用して保存則を抽出する手法の開発も行った.Koopman作用素は力学系に対して定義される作用素であり,系の時間発展の様子を記述する.特に,系からの観測量に対する作用素として定義されるために無限次元空間中の作用素となる一方で,線形作用素になるため,線形作用素を利用して非線形力学系を解析できるという利点をもつ.また,この作用素は線形作用素なので行列を用いて近似することが多いが,この行列の固有値のうち,特に絶対値が1のものを利用すると保存則を抽出することも可能である.本研究では,これを時間発展型ネットワークの解析に応用し,ネットワークのもつ保存則を抽出する手法を考案した.実データに適用してみたところ,予測については精度に不十分なところもあったが,推定されたKoopman作用素の近似行列の固有値は確かに絶対値が1とみなせるものが存在しており,発展型ネットワークに保存則が存在している可能性を示すことができた.

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

当初,本研究で目的としていた保存則の抽出法の開発と,そのネットワーク解析への応用について,実際に実データを用いた解析を行うことができた.その意味で,本研究は当初計画よりも進んでいるといえる.

Strategy for Future Research Activity

これまでの研究で,時間発展型ネットワークに対して,実際に保存則を抽出する方法を開発し,それを用いて保存則を抽出することができた.この意味で,本研究の当初の目的の達成に大きく近づいている.ただし,現在の方法では計算量の観点から巨大なネットワークに適用することができない.また,特に社会ネットワークは確率的な要素が多く含まれていると思われるため,決定論的な枠組みが有効とは限らない.そのため,計算量の削減手法や,確率的なモデルとの連携が重要であると思われる.その他,Koopman作用素だけでなく,深層学習を利用した保存則抽出法の構築などにも取り組む.

Causes of Carryover

新型コロナウィルス感染症の流行のため,打ち合わせなどが次年度に延期となったため.

  • Research Products

    (9 results)

All 2021 2020

All Journal Article (1 results) (of which Peer Reviewed: 1 results,  Open Access: 1 results) Presentation (8 results) (of which Invited: 3 results)

  • [Journal Article] Deep Energy-Based Modeling of Discrete-Time Physics2020

    • Author(s)
      Takashi Matsubara, Ai Ishikawa, Takaharu Yaguchi
    • Journal Title

      Advances in Neural Information Processing Systems (NeurIPS)

      Volume: 33 Pages: 13100-13111

    • Peer Reviewed / Open Access
  • [Presentation] Deep Energy-Based Modeling of Discrete-Time Physics2021

    • Author(s)
      谷口 隆晴
    • Organizer
      日本ディープラーニング協会主催 NeurIPS 2020 技術報告会
    • Invited
  • [Presentation] DGNet: エネルギー保存・散逸則を保つ深層物理モデリングとそれに関する理論・応用2021

    • Author(s)
      谷口 隆晴
    • Organizer
      数値解析セミナー
    • Invited
  • [Presentation] 深層学習を用いたエネルギーベースのモデリング・シミュレーションフレームワーク2021

    • Author(s)
      谷口 隆晴
    • Organizer
      明治大学共同利用・共同研究拠点研究集会「高度な自動運転を実現するための数理の現状と課題」
    • Invited
  • [Presentation] 常微分方程式モデルの学習における離散化手法の影響について2020

    • Author(s)
      寺川 峻平,松原 崇,谷口隆晴
    • Organizer
      日本応用数理学会2020年度年会
  • [Presentation] Koopman 作用素を利用した発展型ネットワーク予測の試み2020

    • Author(s)
      徐 百歌,谷口 隆晴
    • Organizer
      日本応用数理学会第17回研究部会連合発表会
  • [Presentation] The Error Analysis of Numerical Integrators for Deep Neural Network Modeling of Differential Equations2020

    • Author(s)
      Shunpei Terakawa,Takashi Matsubara,Takaharu Yaguchi
    • Organizer
      NeurIPS2020 Workshop on Machine Learning and the Physical Sciences (ML4PS)
  • [Presentation] 深層フェーズフィールドモデリング2020

    • Author(s)
      松原 崇,谷口隆晴
    • Organizer
      2020年度応用数学合同研究集会
  • [Presentation] 潜在変数をもつニューラル微分方程式に対する代数的考察2020

    • Author(s)
      小松 瑞果,谷口 隆晴
    • Organizer
      2020年度応用数学合同研究集会

URL: 

Published: 2021-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi