2021 Fiscal Year Annual Research Report
多様な探索問題のための情報論的ベイズ最適化の構築と材料科学データでの実践
| Project/Area Number |
21H03498
|
|---|
| Allocation Type | Single-year Grants |
|---|
| Research Institution | Nagoya Institute of Technology |
|---|
Principal Investigator |
烏山 昌幸 名古屋工業大学, 工学(系)研究科(研究院), 准教授 (40628640)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
田村 友幸 名古屋工業大学, 工学(系)研究科(研究院), 准教授 (90415711)
|
|---|
| Project Period (FY) |
2021-04-01 – 2025-03-31
|
| Keywords | ベイズ最適化 / マルチフィデリティ最適化 / 制約付き最適化 / マルチタスク最適化 / 多目的最適化 |
|---|
| Outline of Annual Research Achievements |
本研究では多様な探索問題におけるベイズ最適化(BO)の開発を試みる．2021年度はまず，最適化したい関数に対して低コストな近似的観測が得られるマルチフィデリティ最適化問題に対する情報論的BOについて，過去の予備的な成果をベースに方法論的拡張を行なった．提案法では，情報量に基づいてに次に探索すべき点とそのフィデリティを選択できる．さらに，複数の探索点を同時に調べる場合や，ある観測を得た際に低いフィデリティの観測が副産物として得られる場合が今回の拡張で扱えるようになった．前者は，例えばシミュレーションや実験を通して観測が得られる場合には，単一の観測でなく同時に複数の測定が可能なことが多いため探索問題では非常に重要となる．後者は，近年注目が高いAutoMLにおける機械学習モデルのハイパーパラメータ最適化などで発生する．例えば，深層学習モデルの最適化において，ある学習epochの結果を得た際にはそれより少ないepochの解も手に入ることになる．このような追加的な観測がもたらす情報量を考慮することで，より最適性の高い意思決定基準を導くことができる．以上の成果は論文誌への投稿を行っている．また，複数の関数を同時にすべて最適化するマルチタスク最適化についても情報論的な方法論を導出し，国内学会で発表を行った．さらに別の問題設定として，制約条件のある最適化問題での情報論的なBOを提案した．例えば材料探索の問題では，エネルギー値の安定性に関する制約のもとで，材料の諸性質を最適化するような設定が考えらえる．制約付き最適化に対して従来の情報論的なアプローチを適用すると情報量の非負性が崩れるなど本質的な問題があることを導き，これを解決する新たな情報量の近似評価方法を提案し，実験的なパフォーマンスも実証した．この成果は，機械学習のトップ会議であるICMLに採択された．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究のベースとなる問題設定の一つであるマルチフィデリティ最適化について，基礎方法論的な部分は十分に進展した．今後実践的な問題への適用を試みていく．マルチタスク最適化については，基本的な定式化を一つ定めたが，タスク間の相関をどう取り扱うか，他にも可能性のある定式化が存在することが判明し，実践的なパフォーマンスを検証しつつ適切な定式化を再検討する．一方で，制約付き最適化設定については，当初明示的に予定はしてなかったが，本研究課題で考えてきた定式化の新たな拡張により，うまく定式化できることがわかり，想定していた以上に発展した．具体的には情報量の下限を導出することで，従来より簡便かつ見通しの良い情報量の推定法が得られることがわかった．材料データの応用については，材料探索問題へのBO適用などを実施することができた．本研究で新たに提案した方法の本格的な実践投入は準備段階だが，材料分野の共同研究者と定期的に議論し進めている．
|
| Strategy for Future Research Activity |
マルチフィデリティ最適化について，材料探索への応用を検討する．特に，シミュレーション計算に基づく材料探索において，古典計算と量子科学計算アプローチによるマルチフィデリティ探索を行う．新たな方向性として，昨年度開発した制約付き最適化については，以降，本研究課題の基本的な基軸の一つとして考えていく．特に，材料データへの適用や，他の問題設定との融合などが考えられる．マルチタスク最適化は，タスク間の相関に関してモデル定式化・理論を引き続き検討する．また，多目的最適化に関する発展を検討する．これは過去に実施した予備的な結果（Suzuki, et al., ICML 2020）から発展させていく．特に，多目的最適化では解が一意に定まらないことに起因して，情報量の評価に必要な計算量が大きくなっていた．そのため，多目的最適化分野で知られるスカラー化の技術と情報論的なアプローチを融合し，情報論的な方法の利点を保ちつつ，より計算効率の良い枠組みの構築を目指す．
|
Research Products
(9 results)
