Proposal of new evaluation value for combinatorial optimization problem using deep learning

2020 Fiscal Year Research-status Report

• Project/Area Number: 18K11484
• Research Institution: Kansai University
• Principal Investigator: 榎原 博之 関西大学, システム理工学部, 教授 (50194014)
• Project Period (FY): 2018-04-01 – 2022-03-31
• Keywords: 深層学習 / 最適化問題 / 巡回セールスマン問題 / 機械学習 / 強化学習

Outline of Annual Research Achievements

近年、機械学習、特にディープラーニング（深層学習）が注目されており、様々な応用分野で活用されている。一方、巡回セールスマン問題などの組合せ最適化問題は応用範囲が広く、近似解法、特にメタヒューリスティックスの研究が盛んである。
本研究では、巡回セールスマン問題のようなユークリッド平面で表すことのできる組合せ最適化問題に対してディープラーニングを応用した近似解法を提案する。ランダムに生成した大量の問題例に対して最適解もしくは最良解を画像としてディープラーニングにより学習させ、出力として得られた画像データから評価値を算出する。学習により得られた評価値を従来の距離による評価値の代りにヒューリスティック解法に適用することにより、学習により得られた評価値の有効性を計算機実験により検証する。計算機実験の結果、提案手法は先行研究より優れた性能を示した。その成果は情報処理学会論文誌（Vol.60, No.2, pp.651-659, Feb. 2019）に掲載された。
上記の手法は教師あり学習のため、大量の教師データが必要であり、大規模な問題例の教師データを大量に用意することは困難である。そこで、教師データを必要としない強化学習を活用して、計算機実験を行っている。教師データを用いないため、教師あり学習と同等の性能を得るためには長大な学習時間が必要である。さらに、過学習に陥りやすいという問題点がある。この問題点を解決し、巡回セールスマン問題に対する高性能な強化学習モデルを提案している。この成果は論文誌に投稿する予定である。

Current Status of Research Progress

4: Progress in research has been delayed.

Reason

本研究では、ユークリッド型組合せ最適化問題としてユークリッド巡回セールスマン問題を扱う。ユークリッド巡回セールスマン問題とは平面上にn個の点が与えられたとき、すべての点を通る巡回路の中で最も総距離の短い経路を求める問題である。巡回セールスマン問題は、NP困難に属する組合せ最適化問題の中で最も良く研究されている問題の1つで、ウェブサイトTSPLIBにアルゴリズム比較・検証用の数多くの問題例が用意されている。さらに、小規模の問題例ならば、高性能なTSPソルバであるConcordeを利用して最適解を求めることができる。
2018年度には、2次元平面上にランダムに点を配置することにより20～100都市のユークリッド巡回セールスマン問題の問題例を20万個作成し、Concordeにより得られた最適経路の画像を教師データとして畳み込みニューラルネットワーク（CNN）を用いて学習した。2019年度以降、教師データを必要としない強化学習に取り組んでいる。強化学習は、長大な学習時間が必要であり、長大な学習時間を費やしても過学習に陥ることが多く、なかなか小さな誤差に収束しない。さらに、新型コロナウィルスの影響もあり、実験が思うように進まなかった。
また、新型コロナウィルスの影響のため、国内外の学術会議に参加することができず、研究成果を公表する機会も逸した。

Strategy for Future Research Activity

本研究では、ディープラーニングや強化学習を用いて、ユークリッド巡回セールスマン問題に対する近似解法を提案している。特に、強化学習を用いた手法では、学習には長大な計算時間がかかるという問題点が存在する。そのため、学習時間の短縮を検討したいと考えている。そこで、高性能な学習済みモデルを利用した転移学習やファインチューニングを検討する。本研究でもユークリッド巡回セールスマン問題に対するいくつかの学習済みモデルが存在する。それらのモデルをより大規模な巡回セールスマン問題や巡回セールスマン問題の派生問題等に活用することにより学習時間の短縮を図る。
さらに、2019年度に提案した、出力画像から各経路の評価値を算出するのでは無く、次に選ぶべき頂点座標を評価する手法（Pixel-mapped Classification Network (PCN)）を再検討したい。この手法は従来手法より解の局所的な点で優れているが、大局的には従来手法に劣っている点があり、今後弱点を克服する手法を見つけ出し、性能の改善を為し遂げたい。

Causes of Carryover

研究成果の公表に重点を置いて予算執行する予定であったが、新型コロナウィルスの影響により、学術会議に参加することができず、予算を執行できなかった。今年度は、未執行の予算を論文掲載料と旅費に充当させる予定である。