• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Method for extracting conserved quantities of black box differential equation models and its application to network analysis

Research Project

Project/Area Number 20K11693
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 60020:Mathematical informatics-related
Research InstitutionKobe University

Principal Investigator

Yaguchi Takaharu  神戸大学, 理学研究科, 教授 (10396822)

Project Period (FY) 2020-04-01 – 2024-03-31
Project Status Completed (Fiscal Year 2023)
Budget Amount *help
¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2023: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
Fiscal Year 2022: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
Fiscal Year 2021: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
Fiscal Year 2020: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
Keywords保存則抽出手法 / ブラックボックスモデル / 深層学習 / 社会ネットワーク解析 / ハミルトン方程式 / 幾何学的深層科学技術計算 / 離散勾配法 / ニューラルシンプレクティック形式 / Koopman作用素 / データ駆動型モデリング / 保存則 / 異常検知
Outline of Research at the Start

本研究では,近年,発展している,深層学習などの技術により,データ駆動型モデルとして導出され,ブラックボックス化してしまった微分方程式に対し,保存則という理論的な性質を明らかにする手法を構築する.
また,それを利用することで,時間とともに変化する社会ネットワークに潜むと思われる保存則を抽出し,異常なデータを検出する手法を開発する.
さらに,具体的な応用例として,放牧牛のコミュニティ解析や,企業や金融機関のつくるネットワークの変化など,実データへの解析にも取り組む.

Outline of Final Research Achievements

In recent years, black-box differential equation models such as neural ordinary differential equations have been attracting much attention. Because such models do not admit symbolic representations, it is difficult to investigate their properties, including the existence of conservation laws.
In this study we constructed a data-driven method that finds conserved quantities for black-box differential equation models. More precisely, conserved quantities are modeled by neural networks, and the neural networks representing the conserved quantity are trained so that the model accuracy is improved when the black-box model is modified so that this quantity is conserved. We numerically confirmed that conservation laws can be certainly extracted from various differential equation models using this method. We developed a statistical method for the analysis of structural changes in networks.

Academic Significance and Societal Importance of the Research Achievements

開発した手法は,未知の保存量を抽出するだけでなく,発見した保存則を解析対象のブラックボックスモデルに追加することができる.従って,既存の数理モデルや,シミュレーションプログラムに対して,この方法を適用すると,未知の保存則を発見し,それを保存するようにモデルやシミュレーション結果を修正することができる.これは,モデルやシミュレーションプログラムの予測精度を向上させる効果をもつと期待され,既存のシミュレーションソフトウェアなどを改良することができる可能性をもつ.

Report

(4 results)
  • 2023 Final Research Report ( PDF )
  • 2022 Research-status Report
  • 2021 Research-status Report
  • 2020 Research-status Report
  • Research Products

    (32 results)

All 2022 2021 2020

All Journal Article (8 results) (of which Peer Reviewed: 7 results,  Open Access: 7 results) Presentation (24 results) (of which Int'l Joint Research: 4 results,  Invited: 4 results)

  • [Journal Article] Geometric scientific machine learning2022

    • Author(s)
      松原 崇、陳 鈺涵、谷口 隆晴
    • Journal Title

      Oyo Buturi

      Volume: 91 Issue: 10 Pages: 629-633

    • DOI

      10.11470/oubutsu.91.10_629

    • ISSN
      0369-8009, 2188-2290
    • Year and Date
      2022-10-01
    • Related Report
      2022 Research-status Report
  • [Journal Article] Learning GENERIC Systems Using Neural Symplectic Forms2022

    • Author(s)
      Baige Xu, Yuhan Chen, Takashi Matsubara, Takaharu Yaguchi
    • Journal Title

      Proceedings of the 2022 International Symposium on Nonlinear Theory and its Applications (NOLTA2022)

      Volume: 2022 Pages: 29-32

    • Related Report
      2022 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Variational Integrator for Hamiltonian Neural Networks2022

    • Author(s)
      Yuhan Chen, Takashi Matsubara, Takaharu Yaguchi
    • Journal Title

      Proceedings of the 2022 International Symposium on Nonlinear Theory and its Applications (NOLTA2022)

      Volume: 2022 Pages: 25-28

    • Related Report
      2022 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Symplecticity of coupled Hamiltonian systems2022

    • Author(s)
      Terakawa Shunpei、Yaguchi Takaharu
    • Journal Title

      JSIAM Letters

      Volume: 14 Issue: 0 Pages: 37-40

    • DOI

      10.14495/jsiaml.14.37

    • ISSN
      1883-0609, 1883-0617
    • Related Report
      2021 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] KAM Theory Meets Statistical Learning Theory: Hamiltonian Neural Networks with Non-Zero Training Loss2022

    • Author(s)
      陳鈺涵 , 松原崇 , 谷口隆晴
    • Journal Title

      Thirty-Sixth AAAI Conference on Artificial Intelligence

      Volume: 36

    • Related Report
      2021 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Neural Symplectic Form: Learning Hamiltonian Equations on General Coordinate Systems2021

    • Author(s)
      陳鈺涵 , 松原崇 , 谷口隆晴
    • Journal Title

      Advances in Neural Information Processing Systems (NeurIPS)

      Volume: 34

    • Related Report
      2021 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Secrete Communication Systems Using Chaotic Wave Equations with Neural Network Boundary Conditions2021

    • Author(s)
      Yuhan Chen, Hideki Sano, Masashi Wakaiki, Takaharu Yaguchi
    • Journal Title

      Entropy

      Volume: 23 Issue: 7 Pages: 904-904

    • DOI

      10.3390/e23070904

    • NAID

      120007140160

    • Related Report
      2021 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Deep Energy-Based Modeling of Discrete-Time Physics2020

    • Author(s)
      Takashi Matsubara, Ai Ishikawa, Takaharu Yaguchi
    • Journal Title

      Advances in Neural Information Processing Systems (NeurIPS)

      Volume: 33 Pages: 13100-13111

    • Related Report
      2020 Research-status Report
    • Peer Reviewed / Open Access
  • [Presentation] 神経ネットワーク動画像からのモデリングの試み2022

    • Author(s)
      安田 諒子, 松原 崇, 谷口 隆晴
    • Organizer
      日本数学会2022年度秋季総合分科会
    • Related Report
      2022 Research-status Report
  • [Presentation] 一般化 Dissipative SymODEN の GENERIC 形式2022

    • Author(s)
      徐 百歌, 陳 鈺涵, 松原 崇, 谷口 隆晴
    • Organizer
      日本数学会2022年度秋季総合分科会
    • Related Report
      2022 Research-status Report
  • [Presentation] ニューラルシンプレクティック形式と変分原理の両立性について2022

    • Author(s)
      陳 鈺涵, 松原 崇, 谷口 隆晴
    • Organizer
      日本数学会2022年度秋季総合分科会
    • Related Report
      2022 Research-status Report
  • [Presentation] GENERICシステムに対する構造保存型深層物理モデル2022

    • Author(s)
      徐 百歌, 陳 鈺涵, 松原 崇, 谷口 隆晴
    • Organizer
      日本応用数理学会2022年度年会
    • Related Report
      2022 Research-status Report
  • [Presentation] 深層学習を用いてデータから力学系の第一積分を発見し保存するモデル化法2022

    • Author(s)
      松原 崇, 谷口 隆晴
    • Organizer
      日本応用数理学会2022年度年会
    • Related Report
      2022 Research-status Report
  • [Presentation] 交流アンケートデータからのネットワーク特徴量推定について2022

    • Author(s)
      徐 百歌, 谷口隆晴, 増本康平, 原田 和弘, 近藤 徳彦, 岡田 修一
    • Organizer
      日本応用数理学会2022年度年会
    • Related Report
      2022 Research-status Report
  • [Presentation] Learning GENERIC Systems Using Neural Symplectic Forms2022

    • Author(s)
      Baige Xu, Yuhan Chen, Takashi Matsubara, Takaharu Yaguchi
    • Organizer
      International Conference on Scientific Computation and Differential Equations (SciCADE) 2022
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research
  • [Presentation] Theoretical analysis of approximation properties of Hamiltonian neural networks2022

    • Author(s)
      Yuhan Chen, Takashi Matsubara, Takaharu Yaguchi
    • Organizer
      International Conference on Scientific Computation and Differential Equations (SciCADE) 2022
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research
  • [Presentation] Neural symplectic form and coordinate-free learning of Hamiltonian dynamics2022

    • Author(s)
      Yuhan Chen, Takashi Matsubara, Takaharu Yaguchi
    • Organizer
      International Conference on Scientific Computation and Differential Equations (SciCADE) 2022
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research
  • [Presentation] 潜在変数をもつハミルトニアンニューラルネットワークのハミルトン構造をもたないデータへの適用について2022

    • Author(s)
      延安歩美,安田諒子,松原崇,谷口隆晴
    • Organizer
      環瀬戸内応用数理第26回シンポジウム
    • Related Report
      2022 Research-status Report
  • [Presentation] ハミルトン系に対するカーネル法によるモデリング2022

    • Author(s)
      植田大晴, 松原崇, 谷口隆晴
    • Organizer
      環瀬戸内応用数理第26回シンポジウム
    • Related Report
      2022 Research-status Report
  • [Presentation] ニューラルシンプレクティック形式とその応用2022

    • Author(s)
      陳鈺涵, 徐百歌, 松原崇, 谷口隆晴
    • Organizer
      日本応用数理学会第18 回研究部会連合発表会
    • Related Report
      2021 Research-status Report
  • [Presentation] 陳鈺涵, 松原崇, 谷口隆晴2021

    • Author(s)
      シンプレクティック形式の学習による一般座標系での 深層物理モデル
    • Organizer
      日本応用数理学会環瀬戸内応用数理研究部会第25 回シンポジウ ム
    • Related Report
      2021 Research-status Report
  • [Presentation] 小川乃愛, 谷口隆晴2021

    • Author(s)
      ハミルトニアンニューラルネットワークの安定性について
    • Organizer
      日本応用数理学会環瀬戸内応用数理研究部会第25 回シンポジウ ム
    • Related Report
      2021 Research-status Report
  • [Presentation] Geometric Energy-Based Deep-Learning Models for Physics2021

    • Author(s)
      Takaharu Yaguchi
    • Organizer
      DMV-OMG Annual Conference 2021
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research / Invited
  • [Presentation] 非平衡熱力学による摩擦付き質点バネ系に対する数値解法とその刻み幅条件2021

    • Author(s)
      搗本有望, 谷口隆晴
    • Organizer
      日本応用数理学会環瀬戸内応用数理研究部会第25 回シンポジウ ム
    • Related Report
      2021 Research-status Report
  • [Presentation] Deep Energy-Based Modeling of Discrete-Time Physics2021

    • Author(s)
      谷口 隆晴
    • Organizer
      日本ディープラーニング協会主催 NeurIPS 2020 技術報告会
    • Related Report
      2020 Research-status Report
    • Invited
  • [Presentation] DGNet: エネルギー保存・散逸則を保つ深層物理モデリングとそれに関する理論・応用2021

    • Author(s)
      谷口 隆晴
    • Organizer
      数値解析セミナー
    • Related Report
      2020 Research-status Report
    • Invited
  • [Presentation] 深層学習を用いたエネルギーベースのモデリング・シミュレーションフレームワーク2021

    • Author(s)
      谷口 隆晴
    • Organizer
      明治大学共同利用・共同研究拠点研究集会「高度な自動運転を実現するための数理の現状と課題」
    • Related Report
      2020 Research-status Report
    • Invited
  • [Presentation] 常微分方程式モデルの学習における離散化手法の影響について2020

    • Author(s)
      寺川 峻平,松原 崇,谷口隆晴
    • Organizer
      日本応用数理学会2020年度年会
    • Related Report
      2020 Research-status Report
  • [Presentation] Koopman 作用素を利用した発展型ネットワーク予測の試み2020

    • Author(s)
      徐 百歌,谷口 隆晴
    • Organizer
      日本応用数理学会第17回研究部会連合発表会
    • Related Report
      2020 Research-status Report
  • [Presentation] The Error Analysis of Numerical Integrators for Deep Neural Network Modeling of Differential Equations2020

    • Author(s)
      Shunpei Terakawa,Takashi Matsubara,Takaharu Yaguchi
    • Organizer
      NeurIPS2020 Workshop on Machine Learning and the Physical Sciences (ML4PS)
    • Related Report
      2020 Research-status Report
  • [Presentation] 深層フェーズフィールドモデリング2020

    • Author(s)
      松原 崇,谷口隆晴
    • Organizer
      2020年度応用数学合同研究集会
    • Related Report
      2020 Research-status Report
  • [Presentation] 潜在変数をもつニューラル微分方程式に対する代数的考察2020

    • Author(s)
      小松 瑞果,谷口 隆晴
    • Organizer
      2020年度応用数学合同研究集会
    • Related Report
      2020 Research-status Report

URL: 

Published: 2020-04-28   Modified: 2025-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi