2021 Fiscal Year Research-status Report
Novel development in stochastic optimization using multilevel Monte Carlo methods
| Project/Area Number |
20K03744
|
|---|
| Research Institution | The University of Tokyo |
|---|
Principal Investigator |
合田 隆 東京大学, 大学院工学系研究科(工学部), 准教授 (50733648)
|
|---|
| Project Period (FY) |
2020-04-01 – 2023-03-31
|
| Keywords | モンテカルロ法 / マルチレベルモンテカルロ法 / 確率的最適化 / 確率的勾配降下法 / ベイズ実験計画 / 入れ子型期待値 |
|---|
| Outline of Annual Research Achievements |
昨年度の研究では、入れ子型期待値と呼ばれる量のうち、特に期待獲得情報量と対数周辺尤度に着目し、それらの量そのものに加えて、（期待値がパラメタライズされている状況におけるパラメータについての）勾配をマルチレベルモンテカルロ法によって効率的に推定できること、確率的勾配法との組み合わせによって効率的に最適化できることを解析的および実験的に示した。
今年度は、期待獲得情報量に関して昨年度投稿した論文への査読コメントを受け、勾配の導出方法とその違いによるモンテカルロ推定精度への影響をより精緻に調べた。原稿の大幅な改訂を行い、論文誌SIAM Journal on Scientific Computingに受理・掲載されることとなった。また、対数周辺尤度についても査読付き国際会議Thirty-Seventh Conference on Uncertainty in Artificial Intelligenceに受理され、共同研究者による口頭発表を行った。これらの研究成果に加え、今年度の更なる検討として、より一般的な入れ子型期待値の推定と最適化における「マルチレベルモンテカルロ法＋確率的勾配法」の応用可能性を検討した。理論的検討と実験的検討を並行して進め、収束性についてのある程度一般性を持った理論的結果を得ると同時に、様々な問題へ数値的に適用した結果として、上手く行くケース・必ずしも期待したほどの収束性が見られないケースがあり、より詳細な理論的検討の余地が残ることとなった。
また、上記の研究以外にも、モンテカルロ法全般についてより広く研究を行い、論文発表を行った。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究の主題である「確率的勾配法へのマルチレベルモンテカルロ法の応用」によって、従来難しいとされてきた勾配の不偏推定を可能とし、個別具体例に対して得られた研究成果をすでに論文誌・国際会議で発表できているため。また、より一般的な結果に昇華させるための理論的・数値的検討を進められていることも「おおむね順調に進展している」理由である。
|
| Strategy for Future Research Activity |
今年度得られた理論的結果についての深化が必要である。特に期待される収束性が達成されなかった数値実験の例を参考にしながら、どういう仮定を満たせば良いのか、その必要十分性について解析的な結果が得られるか、その仮定は個別の応用問題に対してチェック可能なものか、などの観点から検討を進めることによって、より一般的かつ実用的なアルゴリズムの構築につながると考える。
|
| Causes of Carryover |
新型コロナウィルスの影響で、参加を予定していた国際会議がオンライン開催となり、旅費の支出がなかったため。今年度は参加を予定している国際会議が現地開催される見通しであり、旅費として使用する計画である。
|
