2019 Fiscal Year Research-status Report
Toward improvement on Monte Carlo method by machine learning
| Project/Area Number |
18K13548
|
|---|
| Research Institution | Institute of Physical and Chemical Research |
|---|
Principal Investigator |
田中 章詞 国立研究開発法人理化学研究所, 数理創造プログラム, 上級研究員 (20791924)
|
|---|
| Project Period (FY) |
2018-04-01 – 2022-03-31
|
| Keywords | 機械学習 / マルコフ連鎖モンテカルロ法 |
|---|
| Outline of Annual Research Achievements |
2019年度は、物理系のモンテカルロシミュレーション高速化を図る研究と並行して、確率分布を真似るタイプの機械学習の方法に関する研究も行った。前者に関しては、昨年度に発表したプレプリントを改良したものをPhysical Review Bから出版し、更に別件として場の理論におけるモンテカルロシミュレーションの高速化を図る研究は持続して行っている。後者に関して、本研究では機械学習手法そのものの開発も重要と考えられるが、近年、敵対的生成ネットワークと呼ばれる深層学習が、もとは画像生成などに関する手法であるが、モンテカルロシミュレーションの配位生成に使えるという話が出てきていた。しかしこの手法は厳密なサンプリングは不可能と考えられており、モンテカルロ計算に使うには何らかの改善が必要であった。この状況を改善する試みとして、ネットワークの訓練後に適用可能な新たな事後処理の手法に関する研究を行った。こちらの論文は機械学習の主要な国際会議の一つであるNeurIPS2019に採択された。（補足：機械学習系の国際学会に論文を通すには、雑誌と同様数名のレフェリーによるピアレビューをパスする必要があり、そのため論文が国際学会に採択されると通常、雑誌掲載同等の実績とみなされるようである。そのためNeurIPS2019への論文採択は十分に研究業績として数えられると考えられる。）また同会議では物理学への応用のワークショップにも参加し、様々な観点から機械学習手法の物理学への応用を議論できた。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
ニューラルネットワークに関する研究を遂行することにより、モンテカルロシミュレーションにこれを応用する際に考えられる落とし穴が幾つかあることが分かった。画像生成などでは、ターゲットの確率分布の存在は仮定であり、その確率分布をきちんと模倣できているという保証は通常、存在しない。一方でモンテカルロシミュレーションの場合はエネルギー関数が確率分布を指定するため、訓練した学習機がまともな確率分布を出せているかチェックすることができる。残念ながら多くのニューラルネットワーク模型では、ターゲット確率分布からのズレが見られる。これは一見だめなことに見えるが、裏を返せば、ずれるのがわかるということは、そのずれを補正できる可能性があるということでもある。実際、Metropolis-Hastings法と機械学習を組み合わせる手法があり、これが有望と見ている。また、未発表ではあるがこの手法を場の理論に適応することには既に成功しており、現在発表の準備中である。
|
| Strategy for Future Research Activity |
まずは上記の現在の研究を仕上げることが目標である。現在の実装では限られたモデルしか作ることができないため、モデル構築の自由度を上げることが今後の一つの方針である。もう一つの方針として、現在までの段階で深層学習を組み込むことはできていないため、こちらも推進してゆく。
|
| Causes of Carryover |
研究にかかる計算を主に所属機関のリモート計算機で行っているためか、昔から使用しているPCが長持ちしているため、新たにPCなどのデバイスを購入する必要がなくなった。概ねその料金分の繰越である。
|
