2018 Fiscal Year Research-status Report
非線形最適化問題の求解速度の改善：最適解近傍外での数値的性質悪化の回避
| Project/Area Number |
18K11185
|
|---|
| Research Institution | Kansai University |
|---|
Principal Investigator |
檀 寛成 関西大学, 環境都市工学部, 准教授 (30434822)
|
|---|
| Project Period (FY) |
2018-04-01 – 2021-03-31
|
| Keywords | 非線形最適化問題 / 自動微分 / 内点法 / 最適化ソフトウェア |
|---|
| Outline of Annual Research Achievements |
本研究課題では，非線形最適化問題 (NLP) において，最適解の近傍外での数値的性質が悪く求解速度が遅い問題に対して求解速度を向上させるための手法について研究している．2018 年度は，【実績 1】添字を扱うことができる自動微分ソフトウェアの開発，【実績 2】NLP に対する内点法の実装，の 2 点について成果を得た．以下，これらの実績の詳細について説明する．
【実績 1】一般に，NLP の求解手法では，目的関数や制約式の勾配が要求される．そのための手法として自動微分という技術が既にあり，我々のグループでも，本研究課題に先行して実施した研究にて自動微分ソフトウェアを開発した．しかし，大規模な NLP は添字を用いて表現されることが一般的であるが，従来のソフトウェアでは添字を直接扱うことができなかったため，NLP を定義するためには，問題中の添字を自力で展開する必要があった．そこで本研究課題では，NLP の添字を直接扱うことができる自動微分ソフトウェアを開発した．それによって，大規模な NLP を簡便に定義できるようになった．さらに，添字を用いて微分値を効率的に計算するようにソフトウェアを改良し，大規模な NLP に対しても従来より高速に微分値を計算できるようになった．
【実績 2】NLP の求解法としては逐次二次計画法や内点法がよく知られている．このうち，逐次二次計画法については本研究課題に先行して取り組んだ研究にて実装をしていたが，内点法については未実装であった．そこで NLP を求解するための内点法を実装した．これにより，逐次二次計画法と内点法の比較ができるようになり，最適解の近傍外で数値的性質が悪化する状況をより詳細に分析できるようになった．
|
| Current Status of Research Progress |
Current Status of Research Progress
3: Progress in research has been slightly delayed.
Reason
本研究課題の最終目標は，非線形最適化問題 (NLP) において，最適解の近傍外での数値的性質が悪く求解速度が遅い問題に対して求解速度を向上させるための手法の開発である．2018 年度は，その準備として上記『研究実績の概要』で説明した内容について取り組んだ．
本研究課題の申請時には，1 年目（2018 年度）の計画として，求解途中に収束が遅くなる現象（Maratos 効果）を回避する手法の開発を目指していた．しかし，添字を扱うことができる自動微分ソフトウェアの開発（上記『研究実績の概要』で説明した【実績 1】）に関する研究が予想以上に進展する見込みが立ったため，こちらに注力して研究を行った．その結果，広く使われている他の自動微分ソフトウェアと比較しても優れているソフトウェアを作成することができた．
オペレーションズ・リサーチ分野のオープンソースのソフトウェアが収録されているサイト "COIN-OR (https://www.coin-or.org)" に掲載されている自動微分ソフトウェアには ADOL-C, CppAD の 2 つがある．これまでの検証によれば，大規模な NLP（例えば数万変数・数万制約）に現れる目的関数・制約式の勾配の計算に際して，我々のソフトウェアは上記 2 つのソフトウェアに対して計算時間を平均的に短くすることができ，かつ必要となるメモリサイズを押さえることができることがわかった．
このように，本来の目標ではない部分では大きな成果をあげることができたものの，本研究の最終目標である，最適解近傍外での数値的性質の悪化を回避する手法の開発についての研究は，本来の予定よりも遅れているのが現状である．
|
| Strategy for Future Research Activity |
2019 年度は，【テーマ 1】求解途中に収束が遅くなる現象（Maratos 効果）を回避する手法の開発，【テーマ 2】逐次二次計画法と内点法の数値的安定性の比較，【テーマ 3】自動微分ソフトウェアの公開・論文執筆，に取り組む予定である．
上記『現在までの進捗状況』でも説明したように，【テーマ 1】は，本来 2018 年度に取り組む予定だった課題である．一方，本テーマは，2018 年度以前にある程度準備が進んでいるテーマでもある（本研究課題の申請書にも記載した）．具体的には，予備的な理論的解析，また数値実験も行っており，これまでのところが良好な結果を得ているので，2019 年度はこれらをまとめる作業を行う予定である．
【テーマ 2】については，本研究に先行して実施した研究で作成した逐次二次計画法プログラム，また 2018 年度に実装した内点法プログラムを用い，両者の数値的安定性を比較する．これにより，最適解の近傍外で数値的性質が悪化する理由を解明していきたいと考えている．またこの比較の中で，両プログラムの実装の見直しやデバッグ等も進めていきたい．
【テーマ 3】については，2018 年度に得た成果である，添字を扱うことが可能な自動微分ソフトウェアに関する論文執筆に取り組むとともに，本ソフトウェアを公開することを目指す．さらに，本テーマに関しては，本研究課題で作成されたプログラム一式を体系的に整理し，公開することも考えている．一連のプログラムは，数値的性質が悪化する原因を数値的に詳細に分析するために任意精度計算（計算精度を任意に設定可能）なものにしており，他には例を見ないものである．このソフトウェア群を公開する考えがあり，本テーマにおける自動微分ソフトウェアの公開をその端緒としたい．
|
| Causes of Carryover |
当初は数値実験用の計算機の購入を予定していたが，所属組織の予算にて購入した計算機を利用することができたので，支出を抑えることができた．残高は，今年度の助成金と合わせ，主にソフトウェア公開に際して必要になる人件費・謝金や旅費として執行する予定である．
|
