Machine Learning for Various Partial Differential Equations
Publicly Offered Research
| Project Area | Foundation of "Machine Learning Physics" --- Revolutionary Transformation of Fundamental Physics by A New Field Integrating Machine Learning and Physics |
|---|
| Project/Area Number |
23H04532
|
|---|
| Research Category |
Grant-in-Aid for Transformative Research Areas (A)
|
| Allocation Type | Single-year Grants |
|---|
| Review Section |
Transformative Research Areas, Section (II)
|
|---|
| Research Institution | RICOS Co. Ltd. |
|---|
Principal Investigator |
堀江 正信 株式会社RICOS, 基盤研究部, 部長 (10822364)
|
|---|
| Project Period (FY) |
2023-04-01 – 2025-03-31
|
| Project Status |
Granted (Fiscal Year 2024)
|
| Budget Amount *help |
¥2,600,000 (Direct Cost: ¥2,000,000、Indirect Cost: ¥600,000)
Fiscal Year 2024: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
Fiscal Year 2023: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
|
|---|
| Keywords | 機械学習 / 同変性 / 計算物理学 / 数値解析 / 物理シミュレーション / グラフニューラルネットワーク / 線形ソルバ |
|---|
| Outline of Research at the Start |
物理現象を記述する多様な偏微分方程式を機械学習で学習・予測できるようにすることは、学習物理学の創成の上で重要な基礎をなす。特に、系の詳細によらない普遍的な物理法則を学習するためには、可変長の入力を取り扱うことができ、物理現象の対称性を満たす機械学習モデルを用いることが必要である。また、偏微分方程式は式の形によってさまざまな性質を有することが知られており、それぞれの方程式について適切な機械学習手法はいまだ不明瞭である。このような対象に対し、それぞれの偏微分方程式の性質に適した学習物理学手法の構築を目指す。
|
| Outline of Annual Research Achievements |
本研究課題では、偏微分方程式の性質に着目して、それぞれの性質に適した機械学習モデルについての研究を行っている。具体的には、偏微分方程式の楕円型・放物型・双曲型といった偏微分方程式の型のそれぞれについて、適した機械学習の考察を進めている。
現状の結果として、楕円型・放物型の偏微分方程式を解くのに適した機械学習手法の構築が完了した。具体的には、これらの方程式を計算物理学的手法で離散的に解く場合に得られる線形作用素が正定値対称になることから、正定値対称行列を係数とする線形方程式の数値解法として知られる共役勾配法を、任意の計算格子 (グラフ) 構造に適用できるグラフニューラルネットワークと組み合わせることで、高い精度が得られることを実証した。さらに、共役勾配法に現れる内積計算が、グラフニューラルネットワークに欠けている、大域的な相互作用の考慮を補っていることを見出した。これにより、共役勾配法を組み込んだグラフニューラルネットワークは楕円型・放物型の偏微分方程式を解くのに適した機械学習モデルであると結論づけられる。また、この手法は、全体全結合を取り扱う必要がある Transformer よりも、計算量の観点から大規模計算に適していると考えられる。
一方で、双曲型偏微分方程式を離散化して得られる行列は一般に非対称であるため、共役勾配法を用いることはできず、これを非対称行列に拡張した手法である Bi-CGSTAB 法などを用いる必要がある。しかしながら、グラフニューラルネットワークはもとより双曲型偏微分方程式を取り扱う性能が高かったことや、Bi-SCGTAB 法を導入することにより必要以上に数値拡散が導入されてしまう状況があるため、双曲型の偏微分方程式に対してはもとのグラフニューラルネットワークを用いることが現状における最善手であると考えられる。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
当初の予定通り、楕円型・放物型の偏微分方程式に適した機械学習モデルの構築ができている。構築した手法では、線形ソルバの性質を機械学習モデルに効率的に埋め込むことができており、グラフニューラルネットワークでは取り扱うことが困難である大域的な相互作用も効率的に考慮することができている。したがって、Transformer のように全対全結合を計算しなければならない手法よりも大規模計算に向いているため、単純なグラフニューラルネットワークおよび単純な Transformer を計算物理学に適用するよりも高い効率を得られる手法であると考えられる。
また、当該手法を含む研究成果を機械学習トップ国際会議に投稿済みであり、採択が決定している。したがって、構築した手法は国際的にも高いインパクトを与えることができている。
|
| Strategy for Future Research Activity |
現状として単純なグラフニューラルネットワークや Transformer と比較してより効率的な手法が構築できているものの、さらなる高度な手法の構築のための研究を進めていく。また、構築した手法群をさまざまな偏微分方程式で比較し、それらの性能を調査する予定である。
|
Report
(1 results)
Research Products
(11 results)
