2018 Fiscal Year Research-status Report
確率的不動点最適化アルゴリズムとアンサンブル学習への応用
| Project/Area Number |
18K11184
|
|---|
| Research Institution | Meiji University |
|---|
Principal Investigator |
飯塚 秀明 明治大学, 理工学部, 専任准教授 (50532280)
|
|---|
| Project Period (FY) |
2018-04-01 – 2021-03-31
|
| Keywords | 確率的最適化 / 不動点 / アンサンブル学習 / 最適化アルゴリズム |
|---|
| Outline of Annual Research Achievements |
アンサンブル学習法とは、複数の学習器を訓練し、それらを組み合わせて将来を予測することができる最先端の学習法である。各学習器は、ニューラルネットワーク等の従来学習アルゴリズムを、訓練用データから得られる最適化問題に適用することで生成される。しかしながら、ノイズに対する頑強なアンサンブル構築のための疎性（sparsity）と安定したアンサンブル構築のための多様性（diversity）とを考慮したアンサンブル学習においては、従来の学習アルゴリズムでは適用できない大規模かつ複雑な確率的最適化問題を解決する必要がある。本研究の目的は、このような最適化問題を解くことが可能な新学習アルゴリズムに基づく新アンサンブル学習法を開発することである。
平成30年度では、大規模かつ複雑な確率的最適化問題を解決するための分散型最適化アルゴリズムの開発に成功した。また、本提案アルゴリズムは、研究課題「大規模かつ複雑なネットワーク上の資源を高速に割り当てるための分散型不動点劣勾配法」（基盤研究(C): 15K04763）に現れるネットワーク資源割り当て問題にも適用可能である。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究の主問題である確率的最適化問題の制約集合は複雑である。平成30年度の早い段階で、その複雑な制約集合を計算可能なある非線形写像（非拡大写像）の不動点集合として表現することができた。その結果、本研究の主問題を解くための、既存の不動点最適化アルゴリズムを発展させた「確率的不動点最適化アルゴリズム」を提案することができた。また、異なる学習率を有する本提案アルゴリズムの収束解析についても提案することができた。更に、提案学習アルゴリズムに基づくアンサンブル学習法を開発した。数値比較実験により、本提案学習法が、既存学習法と比べて高い分類精度を達成するアンサンブル学習法であることを示すことができた。これらの結果を纏めた論文は、現在、投稿中である。なお、本提案アルゴリズムは、研究課題「大規模かつ複雑なネットワーク上の資源を高速に割り当てるための分散型不動点劣勾配法」（基盤研究(C): 15K04763）に現れるネットワーク資源割り当て問題にも適用可能であり、この成果を纏めた論文は、ジャーナル IEEE Transactions on Control of Network Systems に採録決定している。以上のことから、おおむね順調に進展していると言える。
|
| Strategy for Future Research Activity |
平成30年度の研究成果を発展させる。例えば、より高精度のアンサンブル学習法の開発ができるようにする。具体的には、より高速に確率的最適化問題を解くことができる確率的不動点最適化アルゴリズムの開発を目指す。
|
| Causes of Carryover |
当初予定していた研究会への参加が困難な状況となったため。
国際会議（９月）に参加する予定であり、次年度使用額をその旅費に充てる。
|
