2018 Fiscal Year Research-status Report
Proposal of new evaluation value for combinatorial optimization problem using deep learning
| Project/Area Number |
18K11484
|
|---|
| Research Institution | Kansai University |
|---|
Principal Investigator |
榎原 博之 関西大学, システム理工学部, 教授 (50194014)
|
|---|
| Project Period (FY) |
2018-04-01 – 2021-03-31
|
| Keywords | 深層学習 / 最適化 / 巡回セールスマン問題 / 近似解法 / 機械学習 |
|---|
| Outline of Annual Research Achievements |
近年、ディープラーニング（深層学習）が注目されており、様々な応用分野に利用されている。一方、組合せ最適化問題は応用範囲が広く、厳密解法だけでなく、近似解法、特にメタヒューリスティックスの研究が盛んである。
本研究では、ユークリッド型組合せ最適化問題に対してディープラーニングを応用した近似解法を提案する。ランダムに生成した大量の問題例に対して最適解もしくは最良解を画像としてディープラーニングにより学習させ、出力として得られた画像データから評価値を算出する。学習により得られた評価値を従来の距離による評価値の代りにヒューリスティック解法に適用することにより、学習により得られた評価値の有効性を計算機実験により検証する。計算機実験の結果、提案手法は先行研究より優れた性能を示した。その成果は情報処理学会論文誌（Vol.60, No.2, pp.651-659, Feb. 2019）に掲載された。
上記の手法は教師あり学習のため、大量の教師データが必要であり、大規模な問題例の教師データを大量に用意することは困難である。そこで、教師データを必要としない強化学習に注目して、報酬と学習方法を工夫し、計算機実験を行っている。実験の結果、ある程度良い解を導出することができたが、上記の手法を凌駕するには至っていない。この成果は、2018年6月に情報処理学会 数理モデル化と問題解決研究会（沖縄）、2018年8月に、 IEEE International Conference on Computing, Electronics & Communications Engineering 2018（ロンドン）、2019年3月に情報処理学会 第81回全国大会（福岡）で発表している。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究では、ユークリッド型組合せ最適化問題としてユークリッド巡回セールスマン問題を扱う。ユークリッド巡回セールスマン問題とは平面上にn個の点が与えられたとき、すべての点を通る巡回路の中で最も総距離の短い経路を求める問題である。巡回セールスマン問題（TSP）は、NP困難に属する組合せ最適化問題の中で最も良く研究されている問題の1つで、ウェブサイトTSPLIBにアルゴリズム比較・検証用の数多くの問題例が用意されている。さらに、高性能なTSPソルバであるConcordeも利用できる。
具体的には、2次元平面上にランダムに点を配置することにより20～100都市のユークリッド巡回セールスマン問題の問題例を20万個作成し、Concordeにより得られた最適経路の画像を教師データとして畳み込みニューラルネットワーク（CNN）を用いて学習する。学習の方法は、CNNで得られた経路分布画像と最適経路画像を比較し、誤差逆伝播法により、CNNを修正する。十分な教師データによる学習の結果、新たな問題例を与えるとその問題例に対する最適経路候補が分布図として得られる。この分布図を優良エッジ分布と呼び、各頂点間の分布の値から優良エッジ値を計算する。CNNの構築は、Googleによって開発された機械学習用ライブラリTensorFlowを使用し、計算は主に研究室所有の高性能グラフィックボード搭載パソコンを使用する。
学習により各頂点間の優良エッジ値が求まれば、距離の代りに優良エッジ値を使ってグリーディ法や近傍探索法により近似解を求め、距離を使った方法と比較する。20～500都市のランダムな16個の問題例とTSPLIBにある都市数500以下の42個の問題例で実験した結果、先行研究より優れた性能を示すことができた。
|
| Strategy for Future Research Activity |
ユークリッド巡回セールスマン問題に対して、教師あり学習による近似解法を提案し、良い性能が得られたので、今後、教師データを必要としない強化学習に注力する。強化学習の場合教師データが無いため、長時間の学習が必要である。学習時間の短縮やさらなる性能の向上を検討していきたい。
教師あり学習により得られた高性能な学習済みモデルを利用する転移学習やファインチューニングも検討する。より大規模な巡回セールスマン問題を解くためには、画像サイズを大きくする必要がある（現在、192 X 192画素）。画像サイズを大きくしてより大きな問題例を学習させる場合、学習時間が大幅に増加する。そこで、過去の学習済みモデルを利用して、学習時間の削減を試みる。加えて、巡回セールスマン問題とよく似たユークリッド型の最短経路を求める他の問題へも転移学習やファインチューニングを適用したい。
教師あり学習による近似解法では、ディープラーニングにより優良エッジ分布が得られ、その分布から優良エッジ値が計算できる。提案手法では、その優良エッジ値を距離の代わりの評価値として、単純なグリーディ法や近傍探索法に適用し、近似解を求めている。巡回セールスマン問題には多くの優れたヒューリスティック解法が提案されているので、これらの解法にも優良エッジ値を適用したいと考えている。
従来の手法は優良エッジ値を評価値としてグリーディ法などの近似解法により解を求めている。CNN自体の近似能力を活かすために、部分解が与えられたとき次に選ぶべき頂点をCNNが示す解法を検討している。
|
