2023 Fiscal Year Research-status Report
| Project/Area Number |
23K11260
|
|---|
| Research Institution | Tokyo Institute of Technology |
|---|
Principal Investigator |
小野 功 東京工業大学, 情報理工学院, 教授 (00304551)
|
|---|
| Project Period (FY) |
2023-04-01 – 2026-03-31
|
| Keywords | 自然進化戦略 / 混合整数ブラックボックス最適化 / CMA-ES / 学習率適応 / 大域的多峰性 / 騙し構造 |
|---|
| Outline of Annual Research Achievements |
本年度の主な研究成果は以下の研究1～5のようにまとめられる．研究１では，混合整数ブラックボックス最適化のための自然進化戦略を提案し，整数変数よりも連続変数の目的関数値への寄与が大きいベンチマーク関数において提案手法は既存手法よりも優れた探索性能を示し，その他の既存手法が優れた探索性能示すベンチマーク関数においても既存手法と同等以上の探索性能を示すことを確認した．研究２では，CMA-ESのための学習率適応メカニズムを提案し，集団サイズとして推奨値を用いた提案手法が，学習率チューニングを必要とすることなく，多峰性のベンチマーク関数およびノイズを含むベンチマーク関数において良好な探索性能を示すことを確認した．研究3では，自然進化戦略に基づくUV構造を有する大域的多峰性ブラックボックス関数最適化のためのニッチング手法を提案し，UV構造を有する大域的多峰性のベンチマーク関数において，目的関数のすべての最適解と有力局所解のうち発見できた最適解と有力局所解の割合という観点と目的関数の全ての最適解と有力局所解を発見することができた試行の割合という観点から，提案手法は既存手法よりも優れた探索性能を示すことを確認した．研究４では，騙し構造を考慮した離散ブラックボックス関数最適化のためのVAE-EDAを提案し，強い騙し構造を有するベンチマーク問題において，提案手法は既存手法よりも優れた探索性能を示し，弱い騙し構造を有するベンチマーク問題および騙し構造を有さないベンチマーク問題において，提案手法は既存手法と同等の探索性能を示すことを確認した．研究５では，集団の多様性維持と探索空間の削減に着目したAutoML-Zero手法を提案し，線形回帰アルゴリズムを探索するベンチマーク問題において，最適解発見確率および最適解発見までの評価回数の観点で提案手法が既存手法よりも優れた探索性能を示すことを確認した．
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
本年度は，混合整数ブラックボックス最適化のための有力な既存の進化計算手法の問題点として，整数変数よりも連続変数の目的関数値への寄与が大きい関数において性能が劣化することを指摘し，その問題点に対処するため「確率分布の平均ベクトルの飛躍と補正」と「平均ベクトルの移動量へのバイアスの付加」という工夫を導入した新たな自然進化戦略を提案した．数値実験により，提案手法は，整数変数よりも連続変数の目的関数値への寄与が大きいベンチマーク関数において既存手法よりも優れた探索性能を示し，その他の既存手法が優れた探索性能示すベンチマーク関数においても既存手法と同等以上の探索性能を示すことを確認した．また，本成果をまとめた論文は，国際会議ACM Genetic and Evolutionary Computation Conference (GECCO 2023)に採択された．したがって，当初の目的をおおむね達成できたと考えている．
以上に加えて，CMA-ESのための学習率適応メカニズムを提案して数値実験により有効性を確認した点，自然進化戦略に基づくUV構造を有する大域的多峰性ブラックボックス関数最適化のためのニッチング手法を提案して数値実験により有効性を確認した点，騙し構造を考慮した離散ブラックボックス関数最適化のためのVAE-EDAを提案して数値実験により有効性を確認した点，集団の多様性維持と探索空間の削減に着目したAutoML-Zero手法を提案して数値実験により有効性を確認した点を考慮して，当初の計画以上に進展していると判断した．
|
| Strategy for Future Research Activity |
今後は，連続値のブラックボックス関数最適化のための自然進化戦略におけるハイパーパラメータチューニングを不要にするため，集団サイズを固定して学習率を自動チューニングする手法を開発し，ベンチマーク問題を用いて既存手法よりも優れた探索性能を示すことを実証する予定である．そのため，今年度検討を行ったCMA-ESのための学習率適応メカニズムの開発で得た知見を踏まえて，子個体生成のための多変量正規分布の平均ベクトル，ステップサイズ，および，正規化変換行列の学習率を適応する手法を提案する予定である．また，提案した学習率適応メカニズムが混合整数ブラックボックス最適化においても有効かどうかについて検討を行い，必要であれば手法の改善を行う．さらに，今年度検討を行った自然進化戦略に基づくUV構造を有する大域的多峰性ブラックボックス関数最適化のためのニッチング手法を改善発展させる予定である．最後に，非明示制約付きブラックボックス混合整数最適化の実問題である「ガラス選択ありのズームレンズ設計問題」に提案手法を適用して実問題における有効性を実証する予定である．
|
