• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Development of advanced machine learning methods in cooperation with prior knowledge as simulators

Research Project

Project/Area Number 20K19869
Research Category

Grant-in-Aid for Early-Career Scientists

Allocation TypeMulti-year Fund
Review Section Basic Section 61030:Intelligent informatics-related
Research InstitutionThe University of Tokyo (2023)
Institute of Physical and Chemical Research (2020)

Principal Investigator

武石 直也  東京大学, 先端科学技術研究センター, 講師 (20824030)

Project Period (FY) 2022-12-19 – 2026-03-31
Project Status Granted (Fiscal Year 2023)
Budget Amount *help
¥4,290,000 (Direct Cost: ¥3,300,000、Indirect Cost: ¥990,000)
Fiscal Year 2022: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
Fiscal Year 2021: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
Fiscal Year 2020: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
Keywords機械学習 / シミュレータ / 統計的機械学習 / 事前知識 / 専門家知識
Outline of Research at the Start

訓練データの量を増やしたり質を高めたりすること以外に機械学習の性能や性質を改善する方法として,応用分野毎に有用な専門家による事前知識を活用することが考えられる.しかし,事前知識に応じたモデル設計などはその複雑さから現実的でないことが多い.そこで本研究では,特に物理シミュレータ等として表される事前知識を対象にして,機械学習に事前知識を効率的に取り込む方法を研究する.

Outline of Annual Research Achievements

これまで海外渡航に伴い研究を停止していたが、2023年9月1日に研究を再開し、当該課題に取り組んできた。
2023年度は、主に海外渡航中に行っていた研究を発展させる形で、シミュレータ等によって与えられる事前知識を機械学習に活用する方法の研究を行った。例えば、微分可能なシミュレータをニューラルネットワークなどの機械学習のモデルに直接組み合わせてシミュレータの示す制約をモデル出力が常に満たすようにする方法(ハイブリッドモデリング)について、不確かさを適切に考慮するためにベイズ的ニューラルネットワークの推論を適用する手法を提案した。特に、ハイブリッドモデルの学習に特有の正則化項をベイズ的ニューラルネットワークの推論に適切に取り込むための近似的な計算方法を考案した。また、提案した手法をベンチマークデータに適用し、その有用性を確認した。今後の展開として、実際の実験などで得られたデータに手法を適用する予定である。
また、シミュレータから生成されるデータに対して深層生成モデルを適用することで、シミュレータに基づく統計的推論を行う手法についての研究も行った。このような方法は一般に推論結果の分布が過剰に最頻値に集中してしまう問題が知られていたが、これを解決するための学習方法を提案した。さらに、この学習方法を一般化することでこれまで知られていなかった新たな分布学習の方法を構築できることに着目し、その研究を進めている。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

シミュレータを統計的機械学習に取り入れる方法について、モデルに直接組み合わせる方法およびデータの生成にシミュレータを用いる方法のふたつの視点から研究を進めており、手法の開発という点で進展がある。

Strategy for Future Research Activity

今後はシミュレータを機械学習に取り入れる方法の開発を進めるとともに、実際の予測問題や推論問題に提案した手法を適用することをさらにすすめて手法開発へのフィードバックを得る。

Report

(1 results)
  • 2023 Research-status Report
  • Research Products

    (3 results)

All 2024 2023

All Journal Article (1 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 1 results,  Open Access: 1 results) Presentation (2 results) (of which Int'l Joint Research: 1 results,  Invited: 1 results)

  • [Journal Article] Calibrating Neural Simulation-Based Inference with Differentiable Coverage Probability2023

    • Author(s)
      Maciej Falkiewicz, Naoya Takeishi, Imahn Shekhzadeh, Antoine Wehenkel, Arnaud Delaunoy, Gilles Louppe, Alexandros Kalousis
    • Journal Title

      Advances in Neural Information Processing Systems

      Volume: 36 Pages: 1082-1099

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Presentation] Toward Bayesian Deep Grey-box Modeling2024

    • Author(s)
      Naoya Takeishi
    • Organizer
      International Conference on Scientific Computing and Machine Learning
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] 機械学習と科学モデルの融合2023

    • Author(s)
      武石 直也
    • Organizer
      第46回日本神経科学大会
    • Related Report
      2023 Research-status Report
    • Invited

URL: 

Published: 2020-04-28   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi