• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Machine Learning for Various Partial Differential Equations

Publicly Offered Research

Project AreaFoundation of "Machine Learning Physics" --- Revolutionary Transformation of Fundamental Physics by A New Field Integrating Machine Learning and Physics
Project/Area Number 23H04532
Research Category

Grant-in-Aid for Transformative Research Areas (A)

Allocation TypeSingle-year Grants
Review Section Transformative Research Areas, Section (II)
Research InstitutionRICOS Co. Ltd.

Principal Investigator

堀江 正信  株式会社RICOS, 基盤研究部, 部長 (10822364)

Project Period (FY) 2023-04-01 – 2025-03-31
Project Status Granted (Fiscal Year 2024)
Budget Amount *help
¥2,600,000 (Direct Cost: ¥2,000,000、Indirect Cost: ¥600,000)
Fiscal Year 2024: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
Fiscal Year 2023: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
Keywords機械学習 / 同変性 / 計算物理学 / 数値解析 / 物理シミュレーション / グラフニューラルネットワーク / 線形ソルバ
Outline of Research at the Start

物理現象を記述する多様な偏微分方程式を機械学習で学習・予測できるようにすることは、学習物理学の創成の上で重要な基礎をなす。特に、系の詳細によらない普遍的な物理法則を学習するためには、可変長の入力を取り扱うことができ、物理現象の対称性を満たす機械学習モデルを用いることが必要である。また、偏微分方程式は式の形によってさまざまな性質を有することが知られており、それぞれの方程式について適切な機械学習手法はいまだ不明瞭である。このような対象に対し、それぞれの偏微分方程式の性質に適した学習物理学手法の構築を目指す。

Outline of Annual Research Achievements

本研究課題では、偏微分方程式の性質に着目して、それぞれの性質に適した機械学習モデルについての研究を行っている。具体的には、偏微分方程式の楕円型・放物型・双曲型といった偏微分方程式の型のそれぞれについて、適した機械学習の考察を進めている。
現状の結果として、楕円型・放物型の偏微分方程式を解くのに適した機械学習手法の構築が完了した。具体的には、これらの方程式を計算物理学的手法で離散的に解く場合に得られる線形作用素が正定値対称になることから、正定値対称行列を係数とする線形方程式の数値解法として知られる共役勾配法を、任意の計算格子 (グラフ) 構造に適用できるグラフニューラルネットワークと組み合わせることで、高い精度が得られることを実証した。さらに、共役勾配法に現れる内積計算が、グラフニューラルネットワークに欠けている、大域的な相互作用の考慮を補っていることを見出した。これにより、共役勾配法を組み込んだグラフニューラルネットワークは楕円型・放物型の偏微分方程式を解くのに適した機械学習モデルであると結論づけられる。また、この手法は、全体全結合を取り扱う必要がある Transformer よりも、計算量の観点から大規模計算に適していると考えられる。
一方で、双曲型偏微分方程式を離散化して得られる行列は一般に非対称であるため、共役勾配法を用いることはできず、これを非対称行列に拡張した手法である Bi-CGSTAB 法などを用いる必要がある。しかしながら、グラフニューラルネットワークはもとより双曲型偏微分方程式を取り扱う性能が高かったことや、Bi-SCGTAB 法を導入することにより必要以上に数値拡散が導入されてしまう状況があるため、双曲型の偏微分方程式に対してはもとのグラフニューラルネットワークを用いることが現状における最善手であると考えられる。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

当初の予定通り、楕円型・放物型の偏微分方程式に適した機械学習モデルの構築ができている。構築した手法では、線形ソルバの性質を機械学習モデルに効率的に埋め込むことができており、グラフニューラルネットワークでは取り扱うことが困難である大域的な相互作用も効率的に考慮することができている。したがって、Transformer のように全対全結合を計算しなければならない手法よりも大規模計算に向いているため、単純なグラフニューラルネットワークおよび単純な Transformer を計算物理学に適用するよりも高い効率を得られる手法であると考えられる。
また、当該手法を含む研究成果を機械学習トップ国際会議に投稿済みであり、採択が決定している。したがって、構築した手法は国際的にも高いインパクトを与えることができている。

Strategy for Future Research Activity

現状として単純なグラフニューラルネットワークや Transformer と比較してより効率的な手法が構築できているものの、さらなる高度な手法の構築のための研究を進めていく。また、構築した手法群をさまざまな偏微分方程式で比較し、それらの性能を調査する予定である。

Report

(1 results)
  • 2023 Annual Research Report
  • Research Products

    (11 results)

All 2024 2023

All Journal Article (1 results) (of which Peer Reviewed: 1 results) Presentation (9 results) (of which Int'l Joint Research: 1 results,  Invited: 3 results) Patent(Industrial Property Rights) (1 results) (of which Overseas: 1 results)

  • [Journal Article] Predicting Vehicle Aerodynamics Using a Machine Learning Model Based on Physics2024

    • Author(s)
      堀江 正信、足立 大樹、谷村 慈則
    • Journal Title

      Transactions of Society of Automotive Engineers of Japan

      Volume: 55 Issue: 2 Pages: 387-392

    • DOI

      10.11351/jsaeronbun.55.387

    • ISSN
      0287-8321, 1883-0811
    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Presentation] Graph Neural Networks to Learn Mesh-Based Fluid Simulations with Physical Symmetries2023

    • Author(s)
      Masanobu Horie, Naoto Mitsume
    • Organizer
      CFC 2023
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] 物理現象の性質を満たす機械学習モデルによる流動・輸送現象の学習と予測2023

    • Author(s)
      堀江正信
    • Organizer
      第 60 回日本伝熱シンポジウム
    • Related Report
      2023 Annual Research Report
    • Invited
  • [Presentation] 物理現象の性質を導入した機械学習モデルによる輸送現象の学習2023

    • Author(s)
      堀江正信, 三目直登
    • Organizer
      第28回計算工学講演会
    • Related Report
      2023 Annual Research Report
  • [Presentation] 保存性と対称性を満たす機械学習モデルによる流動・輸送現象の学習2023

    • Author(s)
      堀江正信, 三目直登
    • Organizer
      日本流体力学会 年会
    • Related Report
      2023 Annual Research Report
  • [Presentation] 物理法則に立脚した機械学習モデルによる自動車空力解析の予測2023

    • Author(s)
      堀江正信, 足立大樹, 谷村慈則
    • Organizer
      自動車技術会秋季大会
    • Related Report
      2023 Annual Research Report
  • [Presentation] 物理現象の性質を導入したグラフニューラルネットワークによる物理シミュレーション2023

    • Author(s)
      堀江正信, 三目直登
    • Organizer
      第26回情報論的学習理論ワークショップ
    • Related Report
      2023 Annual Research Report
  • [Presentation] 物理現象の性質を満たす機械学習モデルによる偏微分方程式ソルバ2023

    • Author(s)
      堀江正信
    • Organizer
      数値解析と機械学習の協同が拓く新時代の数理科学
    • Related Report
      2023 Annual Research Report
    • Invited
  • [Presentation] 物理現象の性質を取り入れた機械学習モデルによる数値解析の高速化2023

    • Author(s)
      堀江正信
    • Organizer
      第13回 計算力学シンポジウム
    • Related Report
      2023 Annual Research Report
    • Invited
  • [Presentation] 保存性・対称性を満たすグラフニューラルネットワーク による流動・輸送現象の学習と予測2023

    • Author(s)
      堀江正信, 三目直登
    • Organizer
      第37回数値流体力学シンポジウム
    • Related Report
      2023 Annual Research Report
  • [Patent(Industrial Property Rights)] 情報処理システム、情報処理方法及び記憶媒体2023

    • Inventor(s)
      堀江 正信; 森田 直樹; 井原 遊;
    • Industrial Property Rights Holder
      堀江 正信; 森田 直樹; 井原 遊;
    • Industrial Property Rights Type
      特許
    • Filing Date
      2023
    • Acquisition Date
      2023
    • Related Report
      2023 Annual Research Report
    • Overseas

URL: 

Published: 2023-04-13   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi