• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2008 年度 実績報告書

隠れ変数を持つ確率モデルへの温度の導入による相転移現象の探究

研究課題

研究課題/領域番号 20650019
研究種目

萌芽研究

研究機関東京大学

研究代表者

岡田 真人  東京大学, 大学院・新領域創成科学研究科, 教授 (90233345)

キーワード隠れ変数 / 確立モデル / アニーリング / 相転移 / 学習
研究概要

音声認識に用いられる隠れマルコフモデル(HMM)に代表される隠れ変数を持つモデルは,データの背後に隠された因果関係を取り扱える重要なモデルである.本研究の目的は、隠れ変数を持つ確立モデルに温度パラメータを導入し、温度導入によって生じる相転移現象を探究することである.そのときに重要な点は,隠れ状態の数等のモデルの複雑さを適切に決めることである.モデルが単純過ぎてはデータが持つ統計的な性質をとらえることができない.逆に複雑すぎるモデルはノイズに過剰にフィッティングし未知データに対する予測能力に劣る.適切なモデルを選択し,パラメータを推定する方法としてベイズ法が有効であると認識されている.ベイズ法ではデータが与えられたもとでパラメータおよび隠れ変数の事後分布を計算するが,その計算は困難な積分計算を伴う.そのためベイズ法の効率的な近似法として変分ベイズ法が近年用いられている.
この観点にたち本年度は,ガウス混合モデル(Gauss Mixture Model, GMM)とHMMに変分ベイズ法を適用した場合を研究した.GMMに関しては,高温ですべてのガウス分布が一つの場所に集まる.そこから温度をさげていくと,ガウス分布が徐々に分離していくことが観測できた.これはGMMでは温度によってピッチフォーク型の分岐現象を起こることを示唆し,GMMが二時相転移を起こすことを示唆している.一方HMMでは,高温側の解と低温側の解が連続的につながらない傾向があることがわかった.これはHMMでは温度によってサドルノード型の分岐現象が起こることを示唆しており,HMMが一次相転移を起こすことを示唆している.

  • 研究成果

    (3件)

すべて 2009 2008

すべて 雑誌論文 (2件) (うち査読あり 2件) 学会発表 (1件)

  • [雑誌論文] Extracting State Transition Dynamics from Multiple Spike Trains Using Hidden Markov Models with Correlated Poisson Distribution2009

    • 著者名/発表者名
      Katahira, K.
    • 雑誌名

      Neural Computation (印刷中(掲載確定))

    • 査読あり
  • [雑誌論文] Deterministic annealing variant of variational Bayes method.2008

    • 著者名/発表者名
      Katahira, K.
    • 雑誌名

      Journal of Physics: Conference Series 95

      ページ: 012015-1 - 01 2015-9

    • 査読あり
  • [学会発表] Extracting State Transition Dynamics from Multiple Spike Trains with Correkated Poisson HMM2008

    • 著者名/発表者名
      Kentaro Katahira
    • 学会等名
      Neural Information Processing Systems (NIPS 2008),
    • 発表場所
      Vancouver, Canada
    • 年月日
      2008-12-09

URL: 

公開日: 2010-06-11   更新日: 2016-04-21  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi