潜在変数モデルにおける変分ベイズ法の理論解析

2018 年度 実施状況報告書

• 研究課題/領域番号: 17K12743
• 研究機関: 国立情報学研究所
• 研究代表者: 小西 卓哉 国立情報学研究所, ビッグデータ数理国際研究センター, 特任研究員 (20760169)
• 研究期間 (年度): 2017-04-01 – 2020-03-31
• キーワード: 機械学習

研究実績の概要

潜在変数モデルはデータの背後にある隠れた特徴やその関係を表現できる重要な統計モデルであり、その有効な推定方法として変分ベイズ法が知られている。近年では複雑な潜在変数モデルの推定や、大規模で多様なデータにも応用され注目されている。一方で、こうした複雑なモデルや様々なデータを扱うとき、変分ベイズ法によって得られる推定結果がどのように振る舞うのか依然として未知の部分も多い。本研究では、潜在変数モデルを変分ベイズ法で推定するときに、モデルがどのように推定されるのか、主に理論的な側面から解析することを試みる。特に従来の研究ではカバーできていない潜在変数モデルや、変分ベイズ法の発展的な推定法に着目し、その振る舞いを明らかにすることで、対象のモデルや推定法を理解することを目的としている。
本年度は、前年度に引き続き、確率的ブロックモデルとその変分ベイズ法による推定に注目し、アルゴリズムの性質を解析することに取り組んだ。具体的には、2部グラフデータを確率的ブロックモデルでモデル化する場合に、サンプル極限での変分ベイズ法による推定アルゴリズムの漸近的な挙動を調べることで、与えられたハイパーパラメータが推定結果にどのように影響するか解析することに取り組んだ。また、従来研究が取り扱っていない確率的ブロックモデル以外の潜在変数モデルについても、変分ベイズ法で推定した場合に同様の解析手法が応用できないか調査を行った。

現在までの達成度 (区分)

4: 遅れている

理由

前年度から継続して確率ブロックモデルの変分ベイズ法による推定の解析を行っているが、計画よりも解析に時間がかっている。当初計画していた結果を論文として公表する段階に至っておらず、予定よりも遅れている。

今後の研究の推進方策

引き続き確率的ブロックモデルの変分ベイズ法による推定について解析を行う予定である。2部グラフデータの場合の解析を行い推定結果の性質を明らかにすることを目指す。ただ、想定通り解析できていない部分も多いため、モデルやデータなどの問題設定を一部変更するなどの対策を講じることで対処していくことにする。

次年度使用額が生じた理由

当初予定していた出張や論文掲載料の支出を次年度に持ち越すこととした。研究の進捗に応じて次年度の適切な時期に行う予定である。