| 研究課題/領域番号 |
15K00031
|
|---|
| 研究機関 | 統計数理研究所 |
|---|
研究代表者 |
武田 朗子 統計数理研究所, 数理・推論研究系, 教授 (80361799)
|
|---|
| 研究期間 (年度) |
2015-04-01 – 2019-03-31
|
| キーワード | 統一的判別モデル / 加速近接勾配法 / DCアルゴリズム / 二次制約付き二次計画問題 / 半正定値緩和 |
|---|
| 研究実績の概要 |
これまでの研究代表者による研究成果により，多くの判別モデルがロバスト最適化問題（min-max問題） を用いて記述できること，また，それらの判別モデルの差異はmin-max問題の制約領域，つまり，不確実な要因の取りうる範囲（不確実性領域）の記述方法に違いがあること，などが明らかにされている．昨年度まで，凸最適化問題に帰着される判別モデルに焦点を当てて研究を行い，統一的判別モデルに対して加速近接勾配法が効率的に最適解を見つけることを示した．平成28年度は，非凸最適化問題に帰着される判別モデルに焦点を当て，次のことを行った.
●不確実性領域として，楕円と縮退凸包を組み合わせた領域を用いることにより，新しい判別モデルを提案した．近傍にあるサンプル点をクラスタリング法を用いて楕円として表現した後で縮退凸包をとるため，結果として定式化される問題の変数は既存モデルより少なく済む．そのため，大規模データセットに対しても速く，なおかつ予測精度の高い判別関数を得ることができた．
●不確実性領域として楕円を用いると，二次制約の下での二次関数最小化問題（QCQP）に帰着される．QCQPは一般にNP-hardな問題として知られ，厳密解を効率的に求めるのは難しい．そこで，効率的に緩和問題を解くための手法を提案した．半正定値緩和と同等もしくは少し劣る緩和精度ではあるが，計算時間が少なく済むことを数値実験を通して確認した．
●非凸最適化問題に対して，うまいDC分解を用いることにより，既存のDCアルゴリズムが非常に高速になることを理論的に示し，数値実験を通して確認した．また，提案DCアルゴリズムは凸最適化問題に対する近接勾配法と非常に似た計算手順であることを示し，そこから近接勾配法の高速化法をDCアルゴリズムに取り入れることを提案した．
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
本研究課題の申請時は，平成28年度から効率的な多期間ロバスト最適化法の開発に取り組み，エネルギー最適化や金融最適化問題を用いて解法の性能を評価する予定であった．しかし，昨年度に得られた研究成果（様々な凸判別モデルを含む統一的判別モデルに対する，加速近接勾配法の提案）を受けて，非凸な統一的判別モデルに対する効率的な解法を検討するうちに，次のような，非常に面白い研究成果が得られた．
＊非凸最適化問題に対して，うまいDC分解を用いた効率的なDCアルゴリズムの考案
＊提案DCアルゴリズムと凸最適化問題に対する近接勾配法の密接な関係性の発見
＊近接勾配法の高速化法をはじめとする様々なテクニックをDCアルゴリズムに利用して高速化
この研究は当初予定していたものとは違うものの，非常によい研究成果が得られた．実際に，周囲の研究者から高い評価を受けており，当初の予定を変えてこの研究の方向へ進んだことは成功であったと考えている．本成果をまとめた論文をテクニカルレポートとして登録し，その後に論文投稿している．本成果に関して，平成 29年５月にJong-Shi Pang教授（University of Southern California）から会議での講演者として招待を受け，そして６月にはTing Kei Pong准教授（the Hong Kong Polytechnic University）からの招待で訪問・発表予定である．
近接勾配法について非常に活発に研究されており，現在は非凸最適化問題への適用が重要な研究課題となっている．そこで，当初の予定を変更して，非凸最適化法の研究を優先させるのは必要なことであったと考えている．これらを総合すると，当初の予定とは異なっているものの，おおむね順調に進展していると言える.
|
| 今後の研究の推進方策 |
「現在までの進捗状況」で記したように，平成28年度から「効率的な多期間ロバスト最適化法の開発」に取り組んで行く予定だったものの，非常に面白い方向に研究が発展していき，結局，現在は非凸最適化問題に対する効率的なアルゴリズムの開発に関する研究を行っている．一方で，平成28年度の研究成果をまとめて論文投稿中ではあるものの，まだ研究すべきことが山ほど残っている．例えば，
(1)近接勾配法のNesterovの高速化法を真似してDCアルゴリズムの高速化について検討したが，未だ理論的に加速化されることまで保証できていない．今後，加速のテクニックによりアルゴリズムの収束のスピードが速くなることを理論的に示したい．
(2)大規模な問題のために，確率的なアルゴリズムを考案するとともに，その性能を理論的に評価したい
(3)DCアルゴリズムによって得られる解は大域最適解の保証はないものの，解の精度について何か理論的な評価を与えたい．
(1)については，Ting Kei Pong准教授（the Hong Kong Polytechnic University）を訪問して，議論する予定である．その訪問を通して，面白い研究成果が得られることが期待される．
また，Mahesan Niranjan教授（University of Southampton）が非凸最適化問題を効率的に解くアルゴリズムに興味を持っており，現在，あるタイプの機械学習問題に対して適用可能か検討している段階である．すでにメール，スカイプを通して議論を進めている．ある程度，アルゴリズムの開発に目処がついた段階で，様々な応用問題に対して非凸最適化法の適用を検討していきたい．
|
| 次年度使用額が生じた理由 |
所内で想定以上の資金が調達できたため，結果的に本資金による支出が少なくなった.
|
| 次年度使用額の使用計画 |
本年度に様々な研究成果が得られたため，今後，研究発表のために出張費用や学会参加費などが必要になると思われる．また，雑誌論文の英語表現を確認してもらうために，英文添削サービスも利用したい．また，今後，遂行していくことになる大規模な数値実験について，サポートしてくれる研究員も必要となる．本年度の資金の残金は，今後，そういった研究環境を整えていくのに充ていきたい．
|
