• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2004 年度 実績報告書

組み合せ構造を持つ確率モデル構築のための学習理論

研究課題

研究課題/領域番号 14658106
研究機関独立行政法人産業技術総合研究所

研究代表者

高畠 一哉  独立行政法人産業技術総合研究所, 脳神経情報研究部門, 主任研究員 (10344128)

研究分担者 赤穂 昭太郎  独立行政法人産業技術総合研究所, 脳神経情報研究部門, 主任研究員 (40356340)
新田 徹  独立行政法人産業技術総合研究所, 脳神経情報研究部門, 主任研究員 (20357726)
神嶌 敏弘  独立行政法人産業技術総合研究所, 脳神経情報研究部門, 研究員 (50356820)
西森 康則  独立行政法人産業技術総合研究所, 脳神経情報研究部門, 研究員 (00357724)
藤木 淳  独立行政法人産業技術総合研究所, 脳神経情報研究部門, 研究員 (10357907)
キーワード確率モデル / 学習理論 / 情報幾何 / 複素ニューラルネット / グラフィカルモデル / マルコフチェーンモンテカルロ / 特異点 / 組み合わせ構造
研究概要

1.MCMC(Markov chain Monte-Carlo)法においてモンテカルロ積分を速く収束させる手法を提案した.本手法はマルコフ連鎖の推移において系が同じ状態をなるべく取らないように推移行列を設計するものである.本手法の優位性を理論と実験の両面から示した.
2.MCMC法の一種であるGibbs sampler法は状態推移において1つの変数のみを更新するが,複数の変数を同時に更新する手法を提案した.本手法は単一変数更新の通常のGibbs sampler法に比べ,分布の収束の速さや得られる乱数列の独立性において優位であり,計算量も同じオーダーである.さらに数値実験により本手法の優位性を示した.
3.複数の確率分布があるとき,これらを最も良く近似する低次元のパラメータのなす多様体を求める手法を提案した.多様体をe-平坦なものに取るe-PCAとm-平坦なものに取るm-PCAが考えられる.本手法では反復法により多様体を変形し近似する多様体を求める.これは大域的最適解に至る保証は無いものの,初期の多様体をうまく選ぶ方法を与え,実験的にも良い結果が得られた.
4.複素ニューラルネットワークの計算能力を落とさずにネットワークの大きさを小さくするための十分条件を明らかにした.

  • 研究成果

    (5件)

すべて 2004

すべて 雑誌論文 (5件)

  • [雑誌論文] Information geometry of Gibbs samplers2004

    • 著者名/発表者名
      K.Takabatake
    • 雑誌名

      WSEAS Transactions on Systems Vol.2,No.3

      ページ: 449-454

  • [雑誌論文] More aggressive updating than Gibbs sampler2004

    • 著者名/発表者名
      K.Takabatake, S.Akaho
    • 雑誌名

      Proc.of int.nonlinear theory and its applications

      ページ: 493-496

  • [雑誌論文] e-PCA and m-PCA : Dimension reduction of parameters by information geometry2004

    • 著者名/発表者名
      S.Akaho
    • 雑誌名

      Proc.of int.joint conf.on neural networks Vol.1

      ページ: 129-134

  • [雑誌論文] Active update in single component MCMC for discrete variables2004

    • 著者名/発表者名
      S.Akaho, K.Takabatake
    • 雑誌名

      Proc.of int.nonlinear theory and its applications

      ページ: 489-492

  • [雑誌論文] Reducibility of the complex-valued neural network2004

    • 著者名/発表者名
      T.Nitta
    • 雑誌名

      Neural information processing - letters and reviews Vol.2,No.4

      ページ: 53-66

URL: 

公開日: 2006-07-12   更新日: 2016-04-21  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi