2014 Fiscal Year Research-status Report
大規模凸最適化問題に対する加速（劣）勾配法―実装を重視した理論の構築とその応用―
| Project/Area Number |
26330024
|
|---|
| Research Institution | Tokyo Institute of Technology |
|---|
Principal Investigator |
福田 光浩 東京工業大学, 情報理工学(系)研究科, 准教授 (80334548)
|
|---|
| Project Period (FY) |
2014-04-01 – 2017-03-31
|
| Keywords | 加速勾配法 / 凸最適化問題 / 最急降下法 / 分散共分散行列推定問題 |
|---|
| Outline of Annual Research Achievements |
現在の情報社会では大量のデータが容易に蓄積でき、それらから有益な情報を抽出するための一手法として大規模な凸最適化問題を高速に解くニーズが急速に高まってきている。そこで近年、特に注目を浴びているのが理論的には難解であるが、実装が容易な高速・加速（劣）勾配法がある。この手法を中心に進めた本年度の研究の成果として、大きく三点を挙げることができる。
まずは単純な構造を持った凸集合上での（強）凸関数最小化問題に対する包括的な加速(劣）勾配法の提案である。研究協力者の伊藤勝氏を中心として進めたものであるが、幾つかの既存手法をその特殊ケースとして持つ包括的な枠組みとなっている。目的関数が微分可能、微分不可能、複合な構造、半滑らか、抑制された誤差を含む関数などに対して、問題の解への収束率が統一的に解析できる新手法である。
２つ目の成果として、狭義凸関数に対する最急降下法の改善がある。本年度中にC.C. Gonzagaによって提案された、関数のChebychev近似を用いた全く新しいコンセプトに基づくものである。Gonzagaの手法の問題点でもあるヘッセ行列の最小・最大固有値の推定をヒューリスティックス手法を用いて逐次的に行うことにより、従来の手法よりも数値的に優位であることが実証された。
最後に疎性をもつ（逆）分散共分散行列推定型問題に対しては、実装するプログラムの改善により、従来用いられているベンチマーク問題に対して数値実験を行った結果、過去に報告されている他３手法よりも歴とした高速化を実現できることが確認できた。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
それぞれのテーマによって、達成度は当初の目的とは多少異なるが、総合的には上記の通りである。
①（凸関数f(・)が一般的な場合）に関して今年度は狭義２次凸関数に限定した新手法が提案できており、数値実験からその実用性が確認できている。一方、高速・加速（劣）勾配法にこの考えを取り入れるためには引き続き、共役勾配法や準ニュートン法などとの共通点、相違点を詳細に解析する必要がある。一方、強凸関数に対する高速・加速（劣）勾配法の包括的な枠組みは想定以上の良い結果となっている。
②（疎性をもつ（逆）分散共分散行列推定型問題に対してはほぼ計画通りのスケジュールで進んでいる。
③画像や動画像圧縮系問題に対しては残念ながら、記述すべき研究の前進が得られなかった。
|
| Strategy for Future Research Activity |
メインテーマである凸関数f(・)が一般的な場合に関してはC.C. Gonzagaの手法に基づいて新しく提案した手法をベースに、その一般化を試みる。また、その中で用いたヒューリスティックスの理論的な根拠を整備し、実装に伴った理論面でも魅力的にする必要がある。さらに、関連事項として、共役勾配法や準ニュートン法との関係を明らかにする必要がある。 高速・加速（劣）勾配法に関しては、最近、ある常微分方程式の挙動と関連が指摘されており、その方向への進展も期待が持てるものである。
疎性をもつ（逆）分散共分散行列推定型問題に関しては、Z. Luのものよりより複雑な線形制約を追加した一般的な問題にも適用できるようになっている。よって、自己回帰モデルなどにも適用でき、そのパーフォ―マンスを検証する必要がある。さらに、データに特殊な疎性をもった半正定値計画問題においても部分問題に分離して高速に計算することを試みる。最近発表されたYang-Sun-Tohらのデータがグルーブ化された問題に対しても、提案アルゴリズムの拡張を試みる予定である。最終的にはデータ同化などから生成される超大規模問題に対して実用的解法を提案することを目的とする。
画像や動画圧縮系問題に関しては、交互探索法による解法が実現可能であることがわかっている。しかし、大規模な問題となると、交互探索法の各反復で計算する数千もしくは数万次元の行列の最大固有値がその計算時間の大半を占めるようになる。よって、この部分を並列計算などを用いて高速化を試みる。
|
| Causes of Carryover |
海外における研究成果発表の旅費が円高により見積もっていた金額より低くなったこと。また、大学がソフトウェアの包括ライセンス契約を結んだことにより、使用しているソフトウェアの年間保守料金が発生しなかったこと。
|
| Expenditure Plan for Carryover Budget |
上記の理由により、特に当初の計画に変更を加える必要はない。
|
