| Project/Area Number |
23K16943
|
|---|
| Research Category |
Grant-in-Aid for Early-Career Scientists
|
| Allocation Type | Multi-year Fund |
|---|
| Review Section |
Basic Section 61030:Intelligent informatics-related
|
|---|
| Research Institution | Nagoya Institute of Technology |
|---|
Principal Investigator |
稲津 佑 名古屋工業大学, 工学(系)研究科(研究院), 助教 (20869896)
|
|---|
| Project Period (FY) |
2023-04-01 – 2025-03-31
|
| Project Status |
Granted (Fiscal Year 2023)
|
| Budget Amount *help |
¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000)
Fiscal Year 2024: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
Fiscal Year 2023: ¥3,770,000 (Direct Cost: ¥2,900,000、Indirect Cost: ¥870,000)
|
|---|
| Keywords | ベイズ最適化 / 多目的最適化 / パレート最適化 / ロバスト最適化 / 入力不確実性 / ブラックボックス関数最適化 / 機械学習 |
|---|
| Outline of Research at the Start |
実験変数の一部が制御できない状況の下、制御可能である実験変数を最適化する試みは様々な実応用の場で行われている。実験結果には制御できない変数の影響が残されている為、この影響を除去し、制御可能変数のみから定まる良さの尺度を最適化の対象とする場合が多い。ここ数年で、様々な良さの尺度に対して最適な制御可能変数を効率的に求める手法が開発されてきているが、これまでに提案されてきた手法の多くは問題毎に個別化されたアプローチが用いられ、様々な設定を統一的に扱うことができなかった。本研究では、様々な良さの尺度に対して統一的に扱うことができる最適化手法を開発する。
|
| Outline of Annual Research Achievements |
本研究では，複数の出力を持つ多出力ブラックボックス関数に対するベイズ最適化手法の開発を試みる．2023年度はまず，入力変数が2種類存在する状況下，すなわち，実験者が完全に制御可能な入力であるデザイン変数と実験者が制御できない確率的に振る舞う環境変数が存在する下での多出力ブラックボックス関数に対し，これまでの研究をベースに新たなベイズ最適化手法の開発を行った．提案法によって，ブラックボックス関数から環境変数の影響を取り除いたリスク関数と呼ばれる尺度に対するパレート最適化問題を効率的に解くことが可能となった．リスク関数は通常のベイズ最適化の方法論では予測が困難で扱いにくいという問題点を持っていたが，本研究では，リスク関数の基となる多出力ブラックボックス関数そのものは予測が容易で扱いやすく，この予測を経由して本来予測したいリスク関数を予測することが本質的な解決方法であることに着目し，これに基づいた方法論の開発へと至った．提案手法は既存法に比べ，計算が容易であり，また，数値実験による実践的な性能も既存法と同等かそれ以上の性能を持ち，更に，理論的保証を持つことを明らかとした．具体的には，提案法は任意精度の解を有限回の反復回数で高い確率で返すことを示した．また，多くの機械学習アルゴリズムに対する理論解析では，実践上生じる近似誤差を考慮していない（例えばソルバーが返す解と真の解の乖離を考慮していない等）一方，本研究では，実践上生じる近似誤差を考慮し，これらの近似誤差が理論解析にどう影響するかも同時に明らかにした．本研究がさらに発展することで，実応用として例えば，不確実な環境要因の下での作物の収穫量と品質を同時に最適とする肥料の量に対するパレート最適化等を効率的に行うことが可能となる．本研究によって得られた結果は，機械学習に関するトップ会議であるAISTATS2024に採択された．
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
本研究成果の概要は入力不確実性を伴う多出力ブラックボックス関数に対するリスク関数が定めるパレート最適化問題における，効率的なベイズ最適化手法の開発である．得られた結果は計算が容易で実践的性能も高く，かつ理論保証があり，さらに，本結果は任意のリスク関数に対して適応可能な点で一般化された結果である．一方で，単出力ブラックボックス関数の場合は本研究の特別な場合であるため，「一般的なリスク関数に対する最大化問題のための方法論の開発」という，当初の研究計画における1年次目標を包含している．以上より，当初の研究目標を含み，さらに，多出力設定への拡張も行うことができた点で当初の計画以上に進展することとなった．
|
| Strategy for Future Research Activity |
当初の研究計画通り，リスク関数に対する領域推定問題に対する方法論の開発に取り組む．新たな方向性としては，2023年度に開発した手法に対する異なる視点からの理論解析を進める．具体的には，2023年度に報告者が部分的に携わった予備的な結果（Takeno et al. 2023, ICML2023)を用いて，理論解析における精度の向上を図る．Takeno et al. では，アルゴリズムを実行する上で調整が必要となるハイパーパラメーターを，ある種の指数分布からランダムにサンプリングすることで実用性が向上するのみならず，理論解析における性能も向上することが示されている．一方で，報告者が2023年度に開発した方法論においても，同様のハイパーパラメーターを必要とするため，本手法にTakeno et al. のアイデアを適用し，実用性と理論の改善が期待できる．このため，2023年度に開発した手法の改善を2024年度の新たな目標のひとつとする．
|
