• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2009 Fiscal Year Annual Research Report

近似ベイズ推論によるデータ解析法の漸近特性

Research Project

Project/Area Number 20800012
Research InstitutionThe University of Tokyo

Principal Investigator

渡辺 一帆  Nara Institute of Science and Technology, 情報科学研究科, 助教 (10506744)

Keywordsベイズ推定 / 変分ベイズ法 / 局所変分近似 / 混合モデル / 変動二項過程 / 情報幾何 / 階層ベイズ法
Research Abstract

高次元データの次元圧縮とクラスタリングの同時最適化のために、制約つき指数型分布族の混合モデルに対する変分ベイズ法による学習アルゴリズムを導出した。人工データ及び手書き数字認識の実データを用いた数値実験により、手法の有効性を検証し論文誌に発表した。
また、平滑化事前分布を用いた変動ポアソン過程及び変動ベルヌーイ過程の推定について、ベイズ推定を厳密に行うための転送行列法、及び事後確率最大化のための逐次最適化法を導出し論文を発表した。これらのモデルは神経科学におけるスパイク系列を含む、あるイベントの発生を表す系列からイベントの発生率を推定するモデルとして用いられている。しかしながら、ベイズ事後分布を解析的に計算することができないため、高速な計算には近似法が有効である。上記の手法は厳密計算を行うものであり、近似法の評価に用いることができる。実際に、同様のモデルに対する近似推定法を局所変分近似により導出しており、厳密計算との比較による近似精度の評価を行っている。
局所変分近似による事後分布の近似では、周辺尤度の上界及び下界が目的関数となるが、これらを近似事後分布と真の事後分布間の情報量と関係付け、近似事後分布が分布間の情報量を最小化する分布の近似を与えていることを示した。また、上界と下界を結びつける効率的な手法を情報幾何学的考察に基づき構成した。
他の応用として近赤外光断層撮影法における線形逆問題を扱い、変分ベイズ法を用いた階層ベイズ法の近似解法において事前分布の設定が推定結果に与える影響を調べた。

  • Research Products

    (9 results)

All 2010 2009 Other

All Journal Article (5 results) (of which Peer Reviewed: 5 results) Presentation (3 results) Remarks (1 results)

  • [Journal Article] 平滑化事前分布を用いた変動2値情報源の事後確率最大化法2010

    • Author(s)
      渡辺一帆, 久保智洋, 岡田真人
    • Journal Title

      電子情報通信学会論文誌A J93-A

      Pages: 326-330

    • Peer Reviewed
  • [Journal Article] Simultaneous Clustering and Dimensionality Reduction Using Variational Bayesian Mixture Model2010

    • Author(s)
      K.Watanabe, S.Akaho, S.Omachi, M.Okada
    • Journal Title

      Studies in Classification, Data Analysis, and Knowledge Organization (Proceedings of the 11th IFCS Biennial Conference) (印刷中)

    • Peer Reviewed
  • [Journal Article] Transfer matrix method for instantaneous spike rate estimation2009

    • Author(s)
      K.Watanabe, H.Tanaka, K.Miura, M.Okada
    • Journal Title

      IEICE Transactions on Information and Systems E92-D

      Pages: 1362-1368

    • Peer Reviewed
  • [Journal Article] Variational Bayesian Mixture Model on a Subspace of Exponential Family Distributions2009

    • Author(s)
      K.Watanabe, S.Akaho, S.Omachi, M.Okada
    • Journal Title

      IEEE Transactions on Neural Networks 20

      Pages: 1783-1796

    • Peer Reviewed
  • [Journal Article] Firing Rate Estimation Using an Approximate Bayesian Method2009

    • Author(s)
      K.Watanabe, M.Okada
    • Journal Title

      Proc.of ICONIP 2008, Part I, Lecture Notes in Computer Science 5506

      Pages: 655-662

    • Peer Reviewed
  • [Presentation] 階層変分ベイズ法によるNIRS-DOTの逆問題解法2010

    • Author(s)
      宮本敦史, 渡辺一帆, 池田和司, 佐藤雅昭
    • Organizer
      電子情報通信学会ニューロコンピューティング研究会
    • Place of Presentation
      東京都,町田市
    • Year and Date
      2010-03-10
  • [Presentation] Information Divergences in Local Variational Approximation of Bayesian Posterior Distribution2010

    • Author(s)
      渡辺一帆, 岡田真人, 池田和司
    • Organizer
      電子情報通信学会ニューロコンピューティング研究会
    • Place of Presentation
      東京都,町田市
    • Year and Date
      2010-03-10
  • [Presentation] 近似ベイズ推定とその応用(チュートリアル講演)2009

    • Author(s)
      渡辺一帆
    • Organizer
      第24回信号処理シンポジウム
    • Place of Presentation
      鹿児島県,鹿児島市
    • Year and Date
      2009-11-26
  • [Remarks]

    • URL

      http://hawaii.naist.jp/~wkazuho/

URL: 

Published: 2011-06-16   Modified: 2016-04-21  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi