2015 Fiscal Year Research-status Report
凸計画問題に対する近接座標勾配法の計算量解析と設計指針の体系化
| Project/Area Number |
25330025
|
|---|
| Research Institution | Kyoto University |
|---|
Principal Investigator |
山下 信雄 京都大学, 情報学研究科, 教授 (30293898)
|
|---|
| Project Period (FY) |
2013-04-01 – 2017-03-31
|
| Keywords | 数理最適化 / 凸計画問題 / 座標勾配法 |
|---|
| Outline of Annual Research Achievements |
本研究の目的は，機械学習などに現れる大規模な凸計画問題に対する一般化された勾配法（近接座標勾配法）の計算量を解析し，その解析に基づいた個々の勾配法の設計指針を構築することにある．本年度の目的は，前年度までに得られた成果を，より一般的な問題に対して拡張することであった．その目的に関連して以下の成果を得た．
・線形等式制約つきの凸最適化問題に対する効率的なブロック構成法の開発した．昨年度までに開発してきた近接座標勾配法は制約なしの凸最適化問題にしか適用できなかった．制約がある問題に対しては，各反復で更新する変数の組(ブロック)を適切に選ばなければ，大域的収束を保証することができない．既存のブロック選択法は，計算量が変数の数の二乗に比例し，大規模な問題では適用することができなかった．そこで，線形な等式制約があるときに，ブロックの候補を予め列挙し，各反復ではそのブロックの候補集合からブロックを選ぶことを考えた．こうすることによって，各反復では，変数の数の線形時間で適切なブロックを選ぶことができる．さらに，大域的収束を理論的に保証するための列挙基準を提案し，数値実験によって実際に大域的収束することを確認した．しかしながら，この基準では制約条件の情報しか用いていないため，そのまま適用すると，収束が遅くなることもあった．
・オンライン凸最適化問題において，各時刻に得られる目的関数の勾配がスパースな場合，そのスパース性を利用した効率的なオンライン近接勾配法を提案した．このような問題はテキストマイニングなどに現われる．スパース性を利用しない従来手法と同様の仮定のもとで，同じ計算量となることを示した．さらに数値実験によって，スパース性を利用しない場合にと比べて，高速に近似解が得られることを確認した．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本年度の研究目的は，制約条件などを持つより一般的な問題に対して，近接座標勾配法を拡張し，その収束性を解明することであった．線形な等式制約をもつ問題に対して拡張することができたが，提案した手法の計算時間は満足のいくものではなかった．一方，次年度以降に研究する予定であった具体的な応用問題(テキストマイニング)の解法として，その特性を利用した近接勾配法を提案し，その有効性を確認することができた．総合的に見ると研究はおおむね順調に進展している．
|
| Strategy for Future Research Activity |
最終年度は，これまでに得られた成果をまとめて，統一的な設計指針を与える予定である．しかしながら，制約条件を持つ場合は当初予定していたものよりもよい成果が得られていない．そこで今後は，まず，制約条件を持つ場合においてより効率的な手法の開発を行う．さらに，機械学習，金融工学などで適用しやすいような設計指針をまとめ，その文章やスライドなどを公開する．
|
| Causes of Carryover |
当初予定していた国際会議に出席しなかった．独自にプログラム作成をしたため，プログラム作成において謝金を支出する必要がなかった．一方，2016年度の開催される国際会議で博士学生２名に発表させるため，旅費を次年度に繰り越すことにした．
|
| Expenditure Plan for Carryover Budget |
2016年度は最終年度であり，いくつか得られた成果を国内外の学会で積極的に発表する．
|
