研究課題/領域番号 |
18H05291
|
研究機関 | 国立情報学研究所 |
研究代表者 |
河原林 健一 国立情報学研究所, 情報学プリンシプル研究系, 教授 (40361159)
|
研究分担者 |
垣村 尚徳 慶應義塾大学, 理工学部(矢上), 准教授 (30508180)
小林 佑輔 京都大学, 数理解析研究所, 准教授 (40581591)
吉田 悠一 国立情報学研究所, 情報学プリンシプル研究系, 准教授 (50636967)
|
研究期間 (年度) |
2018-06-11 – 2023-03-31
|
キーワード | グラフアルゴリズム / 分散計算 / サブモジュラー関数 |
研究実績の概要 |
本研究では、主に離散アルゴリズムの研究で成果を残した。 分散計算のグラフアルゴリズムの世界では、それぞれの頂点が計算する能力を持っているものの、計算時間は、線形時間さえ許されないような設定で行わなければいけない。これは、現実設定として、それぞれのハブが計算する能力を持っているものの、それぞれのハブがグローバルな状況を把握できない状態での計算モデルに相当し、ビッグデータ時代ではますます需要が増す計算設定である。本研究では、分散計算において、カバーリング問題などで大きな成果を上げた。 深層学習理論の解析に関してはアルゴリズム分野におけるもっとも重要な道具の一つである動的計画法で計算できる問題に対しては、グラフニューラルネットワークでも正確に学習できることを理論的・実験的に示した。 また疎なモデルを得るための正則化の多くは劣モジュラ関数のLovasz拡張とみなすことができる。本研究ではそのような正則化項を持つ線形回帰に対する階層的確率モデルを考え、事後予測に対する変分推論手法を与えた。具体的には分配関数に対する理論的な上限を与え、この上限を計算する多項式時間アルゴリズムを与えた。我々の手法はMAP推定のためのベイジアンLassoモデルの拡張とみなすことができる。
|
現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
分散計算に関する固定パラメータ、カバーリングの結果は、分散計算のトップ会議DISCに採択され、さらにカバーリングの結果は、DISC特集号に招待(採択論文のトップ10%のみが招待される)されるなど、DISC会議の中でも世界的に高い評価を得ている。 また本プロジェクトは、組合せ最適化的手法、離散アルゴリズムの手法をAI、自然言語、データマイニング、深層学習への応用も視野に入れている。これらの論文は、自然言語処理分野のトップ会議であるACL、AI分野のトップ会議であるUAI、AAAI、深層学習分野でのトップ会議ICLRで発表されるなど、世界的に評価されている。さらにデータマイニングのトップ会議(SDM’19)に採択された「高次元に埋め込まれたデータの幾何的解析」も世界的に評価されているといえるだろう。 また物理分野のトップジャーナルPREに出版された「アニーリング並列計算」に関する論文は、離散アルゴリズム的手法を物理分野にも応用する第一歩の結果である。現在この結果の拡張に関する成果も得ている。
|
今後の研究の推進方策 |
ICLR’20において、動的計画法で計算できる問題に対しては、グラフニューラルネットワークでも正確に学習できることを理論的・実験的に示した。今後は引き続き、グラフニューラルネットワークで正確に学習ができる条件、あるいは入力データの条件などを解析していく予定である。 またネットワークの生成モデルは、統計物理分野で多数提案されているものの、1億以上の頂点を持つネットワークに対しては、生成モデルの正当性の実験的な証明はなされてこなかった。本提案では、離散アルゴリズム的手法を駆使して、この課題を克服したいと考えている。
|