2012 Fiscal Year Annual Research Report
正定値行列補完を用いた準ニュートン法の実用化に関する研究
| Project/Area Number |
20560056
|
|---|
| Research Institution | Kyoto University |
|---|
Principal Investigator |
山下 信雄 京都大学, 情報学研究科, 准教授 (30293898)
|
|---|
| Project Period (FY) |
2008-04-08 – 2013-03-31
|
| Keywords | 数理計画 / 非線形計画 / 準ニュートン法 / 大規模 / 疎性 |
|---|
| Research Abstract |
最終年度にあたる今年度は，これまでに得られた知見に基づいて，個々の応用問題に応じたアルゴリズムの開発を行った．
特に，機械学習などにあらわれる大規模なデータを含む応用問題を想定し，そのような大規模な問題にも適用できるようにする２つの工夫を与えた．１つはブロック座標勾配法を導入することであり，もう１つはオンラインアルゴリズムへ拡張することである．ブロック座標勾配法は，各反復で変数の一部を更新する手法で，変数が数万を超えるような問題に適している．この手法と準ニュートン法を組み合わせた手法（実際にはもっと一般化した手法）を提案し，適当な条件のもとで，大域的収束および１次収束することを示した．一方，オンラインアリゴリズムは，データが数百万を超えるような問題に対して，各反復で一部のデータ情報にのみ基づいて点列を生成する手法である．そのため，リアルタイムにデータが届いたり，データ数が莫大なときにも，実用的な時間で近似解を求めることができる．このオンラインアルゴリズムとブロック座標勾配法，準ニュートン法を統一的にあらわすアルゴリズムを提案した．さらに，各反復で更新する変数をランダムで選ぶときの反復回数の見積もりを与えた．
上記のオンラインアルゴリズムの有効性を調べるため，ある店におけるユーザのコメント(数十万件)から商品の推奨度を推定する問題に対して，数値実験を行った．コメント文に使用される語彙の頻度のスパース性を利用することによって，従来の手法より数倍速く近似解をえることができることがわかった．
また，昨年度の開発したL-BFGS法と正定値行列補完を用いた準ニュートン法のMATLABコードを公開した．
|
| Current Status of Research Progress |
Reason
24年度が最終年度であるため、記入しない。
|
| Strategy for Future Research Activity |
24年度が最終年度であるため、記入しない。
|
