| 研究課題/領域番号 |
16K16011
|
|---|
| 研究機関 | 国立研究開発法人理化学研究所 |
|---|
研究代表者 |
前原 貴憲 国立研究開発法人理化学研究所, 革新知能統合研究センター, ユニットリーダー (20751407)
|
|---|
| 研究期間 (年度) |
2016-04-01 – 2019-03-31
|
| キーワード | 離散凸解析 / 機械学習 / 劣モジュラ関数 |
|---|
| 研究実績の概要 |
機械学習・データマイニングは現在高い注目を集めている領域であり，その中では大規模な最適化問題（連続と離散の両方）を解く必要が生じている．本研究ではこれらの分野に現れる離散最適化問題に注目し，同分野の連続最適化で広く成功している「近接勾配法」の離散版を作成することにより，幅広く適用可能な離散版近接勾配法を確立し，その性能を理論・実用両面から解析することを目的としていた．
昨年度報告したとおり，１年目には「離散近接勾配法の提案および性能評価（論文本年度発表済）」を行った．論文中で実問題に対して適用することで優位性をもつケース・もたないケースがあることを確認したことから，離散近接購買法に対する一般的な保証が難しいことが確認され，本研究の方向を見直す必要が生じた．
そこで２年目である本年は上記の観察を踏まえ，近接勾配法に限定せずに機械学習に有用となる効率的離散最適化アルゴリズムを離散凸解析の視点で開発することを試みた．このことによって以下の２つの主要な結果と２つの副次的な結果を得ることに成功した．１つ目の主要な結果は「主成分分析などの部分空間選択問題に対する劣モジュラ理論に基づく近似アルゴリズムの開発（論文執筆中）」である．２つ目の主要な結果は「グラフの部分集合を引数とする劣モジュラ関数に対する最大化アルゴリズムの開発（論文執筆中）」である．そして副次的な結果の１つ目は「不確実性を含む離散最適化問題に対する効果的クエリ戦略の導出（論文発表済）」であり，２つ目は「オンラインでデータが到達する場合に対する容量制約付劣モジュラ関数最大化アルゴリズムの開発（論文採択済）」である．
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
１年目の研究によって「近接勾配法の離散拡張を行う」という方向に陰りが見えたため，２年目は本課題の本来の目的である「機械学習向けの離散最適化手法の開発」に立ち戻り，その方向での研究に取り組んだ．この方針転換により，現在までに十分に良い成果が得られている．
概要に述べたとおり，これまでに４つの成果を得た．１つ目の主要な結果：部分空間選択問題に対する研究は，機械学習でよくあらわれる主成分分析や疎辞書選択などを離散凸解析の視点から解析したものであり，どのような部分空間問題が解けるかを特徴づけることに成功した．２つ目の主要な結果：グラフの部分集合を引数にとする劣モジュラ関数の最適化は主にセンサー配置などのネットワーク設計問題で必要となるものである．これもどのような部分グラフ制約であれば近似が可能かを明らかにすることに成功している．
副次的な成果の１つ目：不確実性を含む離散最適化問題は多くの機械学習で実際に出現するデータが部分的にしか観測されていない場合を念頭におき，どの部分を新たに観測すれば最適化問題の解の品質が向上するかを解析したものであり，離散最適化トップ会議である SODA'18 で発表した．副次的な結果の２つ目：オンラインでデータが到達する場合の劣モジュラ最大化アルゴリズムはオンライン広告を念頭におき，リアルタイムで広告表示のチャンスが到達する場合に，どの広告にいくらで出資すれば最終的な広告効果が最大化されるか，という問題に対するアルゴリズムを開発した．これは人工知能トップ会議である IJCAI'18 に採択されている．
|
| 今後の研究の推進方策 |
延長申請を行った３年目は，主に２年目に得られた結果の整理・報告に時間を使いたいと考えている．まず，採択が決まった論文を発表する．また，現在執筆中の論文を投稿し，近いうちの採択を目標とする．
また，これまでに得られた成果から派生する形でいくつかの新しい着想を得ている．１つ目の成果の派生として，提案した手法を具体的な問題に適用することで性能評価を行いたいと考えている．２つ目の成果の派生として特別な部分グラフ制約の場合により効率的に解けることがわかったため，それをネットワーク系の論文として整理したい．副次的な成果１つ目の派生として，アクティブラーニングなどの機械学習プロパーの問題に対して同様の解析が適用できないかを考えている．これらについて可能性を調査することまで本年度行いたいと考えている．
|
| 次年度使用額が生じた理由 |
１年目の研究結果を受け，研究方針を２年目より転換した．その結果として研究成果は順調に得られたものの，論文発表するペースが半年ほど遅れており，本来出張費などに使う予定だった費用が消化できず残った状況である．期間延長を申請した本年度には既に論文発表が予定されているので，問題なくこれを消化する予定である．
|
| 備考 |
(1) は自分の成果をまとめているページ
|
