2015 Fiscal Year Research-status Report
任意変数型Black-Box最適化に対する効率的アルゴリズムの自動設計
| Project/Area Number |
15K16063
|
|---|
| Research Institution | Shinshu University |
|---|
Principal Investigator |
秋本 洋平 信州大学, 学術研究院工学系, 助教 (20709654)
|
|---|
| Project Period (FY) |
2015-04-01 – 2018-03-31
|
| Keywords | Black-Box最適化 / 確率的探索アルゴリズム / 高次元最適化 / 情報幾何 / 最適パラメータ / 適応的パラメータ / 国際情報交換 (フランス) |
|---|
| Outline of Annual Research Achievements |
実社会において現れる最適化問題では，目的関数や制約条件の評価に計算コストの高いシミュレーションを要する，最適化すべきパラメータの変数型が統一されていない，最適化問題に関する事前知識が限られている，といった困難さにしばしば直面する．このようなBlack-Box最適化では，アルゴリズムの設計および選択やアルゴリズムの内部パラメータ調節を試行錯誤的に行う必要が，解評価に時間がかかるため非効率である．本研究では，任意変数型のBlack-Box最適化に対して適応可能で，問題ごとの内部パラメータ調節が不要な，効率的汎用探索アルゴリズムの設計を目的とする．本研究の方法は，アルゴリズムの効率化とアルゴリズムの自動化に大別される．以下，それぞれに関する研究実施状況を示す．
効率化: 連続パラメータ空間上の最適化問題に対して重点サンプリングを用いた解の再利用法を構築した(国際会議GECCO2015)．また，変数の数が多い高次元最適化に対しては，確率モデルを制限することで探索を高速化する方法を開発した(国際会議GECCO2016採録決定)．また，確率モデルの制限を適応的に調節する機構を開発した(国際会議PPSN2016投稿)．
自動化: 最適化問題の特徴に応じて最適な値が大きく異なる内部パラメータ，サンプル数，について，パラメータ更新の不確かさを定量化することで，適応的に調節する機構を開発した(国際会議GECCO2016採録決定)．また，多峰性関数やノイズを有するベンチマーク問題において，提案法の有効性を検証した(国際ワークショップBBOB2016二件採録決定)．この他に，パラメータ更新の学習率について，複数の確率モデルを用いた網羅的な実験を行い，最適な学習率と最適化問題の次元数の間の関係式を導き出した(国内学会発表，国際会議投稿準備中)．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究では，4つの研究項目: 1. Cumulationの情報幾何的解釈とその応用，2. 必要サンプル数削減による効率化，3. 学習率の自動設計，4. サンプル数の適応制御，を順に検討する計画を立て，実施してきた．項目2については，前年度より検討を始めていたこともあり，年度内に分野最高峰の国際会議GECCOへの採録に至った．そのため，項目3，4についても計画を前倒しして検討を開始した．項目4については，項目1で検討しているCumulationを活用することで，効果的にパラメータ更新の不確かさを定量化することが可能となり，すでに国際会議GECCOへ採録が決定している．項目1については，項目4へ応用されている点に加え，離散最適化アルゴリズムPBILへの応用を検討している．また，項目3については，研究成果を国内で発表しており，国際会議への投稿を準備し始めている．
以上より，本研究は，研究期間の面で概ね順調が僅かに早く進んでおり，研究の質の面で計画よりも高いものが得られていると判断できる．
|
| Strategy for Future Research Activity |
後の二年間は，それぞれの項目について，以下のように研究を実施する．
項目1. 現在取り組んでいる，Cumulationの離散最適化への応用を引き続き検討する．すでに項目4への応用が実現されているなど，項目1は他の項目への応用が期待できる．今後は，Cumulationの応用についても広く検討していくことが重要である．
項目2. 重点サンプリングを離散最適化に応用し，枠組みの一般化を試みる．また，項目4のサンプル数適応機構と組合せることで，さらなる効率化を図る．
項目3. 現在取り組んでいる，最適学習率と確率モデルの関係性の解明を，実験的に行うとともに，理論的に解析し，その関係性を明らかにする．
項目4. 現在までに構築されているサンプル数適応機構を一般化するとともに，項目2と組合せることでより効率化する．
|
