階層的な確率モデルにおけるベイズ学習の汎用的利用法の確立

• 研究課題/領域番号: 22700230
• 研究種目: 若手研究(B)
• 配分区分: 補助金
• 研究分野: 感性情報学・ソフトコンピューティング
• 研究機関: 東京大学
• 研究代表者: 永田 賢二 東京大学, 新領域創成科学研究科, 助教 (10556062)
• 研究期間 (年度): 2010-04-01 – 2014-03-31
• 研究課題ステータス: 完了 (2013年度)
• 配分額: 3,120千円 (直接経費: 2,400千円、間接経費: 720千円); 2012年度: 650千円 (直接経費: 500千円、間接経費: 150千円); 2011年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円); 2010年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
• キーワード: 機械学習 / ベイズ学習 / 交換モンテカルロ法 / メトロポリス法 / スペクトル分解

研究概要

本研究では，ニューラルネットワークや隠れマルコフモデルなどの階層モデルに対して，ベイズ学習の汎用的な利用を目的とする．交換モンテカルロ法によるベイズ学習を取り扱い，工学的なインプリメントとして，交換モンテカルロ法の並列化を行うことにより，ベイズ学習の大幅な高速化による効率面の大幅な改善を目指す．また，交換モンテカルロ法の最適設計の構築や，動径基底関数ネットワークによるスペクトル分解に適用する．

研究成果

• [雑誌論文] Code-division multiple-access multiuser demodulator by using quantum fluctuations (2014)
  • 著者名/発表者名: Yosuke Otsubo, Jun-ichi Inoue, Kenji Nagata and Masato Okada
  • 雑誌名: Physical Review E 巻: (to be published)
  • NAID: 120005512024
  • 査読あり
• [雑誌論文] Distribution estimation of hyperparameters in Markov random field models (2014)
  • 著者名/発表者名: Yoshinori Nakanishi-Ohno, Kenji Nagata, Hayaru Shouno and Masato Okada
  • 雑誌名: Journal of Physics A : Mathematical and Theoretical 巻: Vol.47
  • NAID: 110009667389
  • 査読あり
• [雑誌論文] Sparse Estimation of Spike-Triggered Average (2014)
  • 著者名/発表者名: Shimpei Yotsukura, Toshiaki Omori, Kenji Nagata and Masato Okada
  • 雑誌名: IPSJ Transactions on Mathematical Modeling and Its Application 巻: Vol.7 ページ: 15-21
  • NAID: 130003394613
  • 査読あり
• [雑誌論文] Markov random field modeling for mapping geofluid distributions from seismic velocity structures (2014)
  • 著者名/発表者名: Tatsu Kuwatani, Kenji Nagata, Masato Okada and Mitsuhiro Toriumi
  • 雑誌名: Earth, Planets and Space 巻: Vol.66
  • 査読あり
• [雑誌論文] A numerical analysis of learning coefficient in radial basis function network (2013)
  • 著者名/発表者名: Satoru Tokuda, Kenji Nagata and Masato Okada
  • 雑誌名: IPSJ Transactions on Mathematical Modeling and Its Application 巻: Vol.6 ページ: 117-123
  • NAID: 130003385111
  • 査読あり
• [雑誌論文] Effect of quantum fluctuation in error-correcting codes (2012)
  • 著者名/発表者名: Yosuke Otsubo, Jun-ichi Inoue, Kenji Nagata and Masato Okada
  • 雑誌名: Physical Review E 巻: Vol.86
  • 査読あり
• [雑誌論文] Deterministic algorithm for nonlinear Markov random field model (2012)
  • 著者名/発表者名: Yoshinori Ohno, Kenji Nagata, Tatsu Kuwatani, Hayaru Shouno and Masato Okada
  • 雑誌名: Journal of the Physical Society of Japan 巻: Vol.81
  • NAID: 40019308945
  • 査読あり
• [雑誌論文] Bayesian spectral deconvolution with the exchange Monte Carlo method (2012)
  • 著者名/発表者名: Kenji Nagata, Seiji Sugita and Masato Okada
  • 雑誌名: Neural Networks 巻: Vol.28 ページ: 82-89
  • 査読あり
• [雑誌論文] Precise estimation of pressure-temperature paths from zoned minerals using markov random field modeling : theory and synthetic inversion (2012)
  • 著者名/発表者名: Tatsu Kuwatani, Kenji Nagata, Masato Okada and Mitsuhiro Toriumi
  • 雑誌名: Contributions to Mineralogy and Petrology 巻: Vol.163 ページ: 547-562
  • 査読あり
• [雑誌論文] Determinisitic algorithm for nonlinear Markov random field model (2012)
  • 著者名/発表者名: Yoshinori Ohno, Kenji Nagata, Tatsu Kuwatani, Hayaru Shouno and Masato Okada
  • 雑誌名: Journal of the Physical Society of Japan 巻: 81
  • 査読あり
• [雑誌論文] Precise estimation of pressure-temperature paths from zoned minerals using markov random field modeling: theory and synthetic inversion. (2012)
  • 著者名/発表者名: Tatsu Kuwatani
  • 雑誌名: Contributions to Mineralogy and Petrology 巻: 163 号: 3 ページ: 547-562
  • DOI: 10.1007/s00410-011-0687-3
  • 査読あり
• [雑誌論文] Bayesian spectral deconvolution with the exchange Monte Carlo method (2012)
  • 著者名/発表者名: K.Nagata, S.Sugita, M.Okada
  • 雑誌名: Neural Networks 巻: 28 ページ: 82-89
  • 査読あり
• [雑誌論文] Influence of synaptic depression on memory storage capacity (2011)
  • 著者名/発表者名: Yosuke Otsubo, Kenji Nagata, Masafumi Oizumi and Masato Okada
  • 雑誌名: Journal of the Physical Society of Japan 巻: Vol.28
  • NAID: 40018947220
  • 査読あり
• [雑誌論文] Influence of synaptic depression on memory storage capacity. (2011)
  • 著者名/発表者名: Y. Otsubo, K. Nagata, M. Oizumi, M. Okada
  • 雑誌名: Journal of the Physical Society of Japan 巻: 80(8) 号: 8 ページ: 084004-084004
  • DOI: 10.1143/jpsj.80.084004
  • NAID: 210000109137
  • 査読あり
• [雑誌論文] Instabilities in associative memory model with synaptic depression and switching phenomena among attractors (2010)
  • 著者名/発表者名: Yosuke Otsubo, Kenji Nagata, Masafumi Oizumi and Masato Okada
  • 雑誌名: Journal of the Physical Society of Japan 巻: Vol.79
  • NAID: 40017245108
  • 査読あり
• [雑誌論文] Instabilities in associative memory model with synaptic depression and switching phenomena among attractors (2010)
  • 著者名/発表者名: Y.Otsubo, K.Nagata, M.Oizumi, M.Okada
  • 雑誌名: Journal of the Physical Society of Japan 巻: 79
  • NAID: 40017245108
  • 査読あり
• [学会発表] 交換モンテカルロ法を用いた情報量規準WBIC の計算機実験による検証 (2014)
  • 著者名/発表者名: 徳田悟,永田賢二,渡辺澄夫,岡田真人
  • 学会等名: 電子情報通信学会技術報告
  • 発表場所: 玉川大学, 東京(NC2013-109)
  • 年月日: 2014-03-18
• [学会発表] ベイズ推定に基づくスペクトル分解と必要最小計測時間の推定について (2014)
  • 著者名/発表者名: 永田賢二,村岡怜,佐々木岳彦,岡田真人
  • 学会等名: 電子情報通信学会技術報告
  • 発表場所: 玉川大学, 東京(NC2013-108)
  • 年月日: 2014-03-18
• [学会発表] スペクトル分解と代数幾何 (2013)
  • 著者名/発表者名: 永田賢二
  • 学会等名: 新学術領域「疎性モデリング」公募説明会
  • 発表場所: 統計数理研究所, 東京
  • 年月日: 2013-10-03
  • 招待講演
• [学会発表] スペクトル分解によるデータ駆動科学 (2013)
  • 著者名/発表者名: 永田賢二
  • 学会等名: 新学術領域ELC/疎性モデリング合同シンポジウム
  • 発表場所: 九州大学, 福岡
  • 年月日: 2013-09-20
  • 招待講演
• [学会発表] Learning Coefficient for Bayesian Learning and Markov Chain Monte Carlo Method (2013)
  • 著者名/発表者名: Kenji Nagata
  • 学会等名: Frontier of Statistical Physics and Information Processing 2013
  • 発表場所: Kyoto University, Kyoto
  • 年月日: 2013-07-11
• [学会発表] MCMC 法を利用した変数選択問題における解の効率的全数探索 (2013)
  • 著者名/発表者名: 永田賢二,北園淳,永福智史,田村了以,岡田真人
  • 学会等名: 日本物理学会第68回年次大会
  • 発表場所: 広島大学, 広島
  • 年月日: 2013-03-26
• [学会発表] マルコフ確率場モデルのハイパーパラメータ分布推定 (2013)
  • 著者名/発表者名: 大野義典,永田賢二,庄野逸,岡田真人
  • 学会等名: 日本物理学会第68回年次大会
  • 発表場所: 広島大学, 広島
  • 年月日: 2013-03-26
• [学会発表] 動径基底関数ネットワークにおける学習係数の数値解析 (2013)
  • 著者名/発表者名: 徳田悟,永田賢二,岡田真人
  • 学会等名: 日本物理学会第68回年次大会
  • 発表場所: 広島大学, 広島
  • 年月日: 2013-03-26
• [学会発表] The effect of quantum fluctuation in information processing (2013)
  • 著者名/発表者名: Yosuke Otsubo, Jun-ichi Inoue, Kenji Nagata and Masato Okada
  • 学会等名: International Conference on the Diverse Applications of Statistical Physics, SINP
  • 発表場所: Kolkata, India
  • 年月日: 2013-01-14
• [学会発表] MCMC法を利用した変数選択問題における解の効率的全数探索 (2013)
  • 著者名/発表者名: 永田賢二，北園淳，永福智志，田村了以，岡田真人
  • 学会等名: 日本物理学会第68回年次大会
  • 発表場所: 広島県 東広島市 広島大学
• [学会発表] マルコフ確率場モデルのハイパーパラメータ分布推定 (2013)
  • 著者名/発表者名: 大野義典，永田賢二，庄野逸，岡田真人
  • 学会等名: 日本物理学会第68回年次大会
  • 発表場所: 広島県 東広島市 広島大学
• [学会発表] 動径基底関数ネットワークにおける学習係数の数値解析 (2013)
  • 著者名/発表者名: 徳田悟，永田賢二，岡田真人
  • 学会等名: 日本物理学会第68回年次大会
  • 発表場所: 広島県 東広島市 広島大学
• [学会発表] 動径基底関数ネットワークにおける学習係数の数値的導出 (2012)
  • 著者名/発表者名: 徳田悟,永田賢二,岡田真人
  • 学会等名: 電子情報通信学会技術報告
  • 発表場所: 豊橋技術科学大学, 愛知(NC2012-78)
  • 年月日: 2012-12-12
• [学会発表] マルコフ確率場モデルにおけるハイパーパラメータの分布推定 (2012)
  • 著者名/発表者名: 大野義典,永田賢二,庄野逸,岡田真人
  • 学会等名: 電子情報通信学会技術報告
  • 発表場所: 豊橋技術科学大学, 愛知(NC2012-86)
  • 年月日: 2012-12-12
• [学会発表] Application of Markov random field models for inversion problems in geosciences (2012)
  • 著者名/発表者名: Tatsu Kuwatani, Kenji Nagata, Masato Okada and Mitsuhiro Toriumi
  • 学会等名: American Geophysical Union, 2012 Fall Meeting
  • 発表場所: San Francisco, USA
  • 年月日: 2012-12-09
• [学会発表] Sparse modeling for face identification in monkey anterior temporal cortical areas (2012)
  • 著者名/発表者名: Jun Kitazono, Kenji Nagata, Satoshi Eifuku, Ryoi Tamura and Masato Okada
  • 学会等名: International Symposium on Face Perception and Recognition
  • 発表場所: Okazaki Conference Center, Aichi
  • 年月日: 2012-11-01
• [学会発表] ベイズ推定によるスペクトル分解 (2012)
  • 著者名/発表者名: 永田賢二
  • 学会等名: 第一回東大新領域・KEK 連携教育シンポジウム
  • 発表場所: 高エネルギー加速器研究機構(KEK), 茨城
  • 年月日: 2012-09-11
  • 招待講演
• [学会発表] Analysis of acceptance rate for Metropolis algorithm and relationship between Bayesian learning (2012)
  • 著者名/発表者名: Kenji Nagata, Sumio Watanabe and Masato Okada
  • 学会等名: International Society on Bayesian Analysis 2012 World Meeting (ISBA2012)
  • 発表場所: 京都テルサ,京都
  • 年月日: 2012-06-28
• [学会発表] マルコフランダムフィールドモデルの地球科学における様々な応用 (2012)
  • 著者名/発表者名: 桑谷立,永田賢二,岡田真人,鳥海光弘
  • 学会等名: 日本地球惑星科学連合2012年大会
  • 発表場所: 幕張メッセ,千葉
  • 年月日: 2012-05-20
• [学会発表] 非線形マルコフ確率場のハイパーパラメータ推定における決定論的アルゴリズム (2012)
  • 著者名/発表者名: 大野義典,永田賢二,桑谷立,庄野逸,岡田真人
  • 学会等名: 日本物理学会第67回年次大会
  • 発表場所: 関西学院大学,兵庫
  • 年月日: 2012-03-27
• [学会発表] スペクトル分解のベイズ理論 (2012)
  • 著者名/発表者名: 永田賢二,村岡怜,佐々木岳彦,岡田真人
  • 学会等名: 日本物理学会第67回年次大会
  • 発表場所: 関西学院大学,兵庫
  • 年月日: 2012-03-27
• [学会発表] メトロポリス法の平均採択率の解析とステップサイズの関係について (2012)
  • 著者名/発表者名: 永田賢二,岡田真人
  • 学会等名: 日本物理学会第67回年次大会
  • 発表場所: 関西学院大学,兵庫
  • 年月日: 2012-03-27
• [学会発表] メトロポリス法の平均採択率の解析とステップサイズとの関係について (2012)
  • 著者名/発表者名: 永田賢二, 岡田真人
  • 学会等名: 日本物理学会
  • 発表場所: 関西学院大学
  • 年月日: 2012-03-27
• [学会発表] スペクトル分解のベイズ理論 (2012)
  • 著者名/発表者名: 永田賢二, 村岡怜, 佐々木岳彦, 岡田真人
  • 学会等名: 日本物理学会
  • 発表場所: 関西学院大学
  • 年月日: 2012-03-27
• [学会発表] 非線形マルコフ確率場のハイパーパラメータ推定における決定論的アルゴリズム (2012)
  • 著者名/発表者名: 大野義典, 永田賢二, 桑谷立, 庄野逸, 岡田真人
  • 学会等名: 日本物理学会
  • 発表場所: 関西学院大学
  • 年月日: 2012-03-27
• [学会発表] ベイズ推定における学習係数とメトロポリス法における平均採択率の関係 (2012)
  • 著者名/発表者名: 永田賢二,岡田真人
  • 学会等名: 電子情報通信学会技術報告,NC2011-111
  • 発表場所: はこだて未来大学,北海道
  • 年月日: 2012-01-27
• [学会発表] ベイズ推定における学習係数とメトロポリス法における平均採択率の関係 (2012)
  • 著者名/発表者名: 永田賢二, 岡田真人
  • 学会等名: ニューロコンピューティング研究会
  • 発表場所: はこだて未来大学
  • 年月日: 2012-01-27
• [学会発表] ベイズ推定によるスペクトル分解 (2012)
  • 著者名/発表者名: 永田賢二
  • 学会等名: 第1回 東大新領域・KEK連携教育シンポジウム
  • 発表場所: 茨城県 つくば市 KEK(高エネルギー加速器研究機構)
  • 招待講演
• [学会発表] Analysis of Acceptance Rate for Metropolis Algorithm and Relationship between Bayesian Learning (2012)
  • 著者名/発表者名: Kenji Nagata, Sumio Watanabe and Masato Okada
  • 学会等名: International Society on Bayesian Analysis (ISBA) 2012 Conference
  • 発表場所: Kyoto Terrsa, Kyoto, Japan
• [学会発表] Sparse modeling for face identification in monkey anterior temporal cortical areas (2012)
  • 著者名/発表者名: Jun Kitazono, Kenji Nagata, Satoshi Eifuku, Ryoi Tamura,Masato Okada
  • 学会等名: International Symposium on Face perception and Recognition
  • 発表場所: Okazak Conference Center, Aichi, Japan
• [学会発表] Applications of Markov random field models for inversion problems in geosciences (2012)
  • 著者名/発表者名: Tatsu Kuwatani, Kenji Nagata, Masato Okada and Mitsuhiro Toriumi
  • 学会等名: American Geophysical Union, 2012 Fall Meeting
  • 発表場所: San Francisco, USA.
• [学会発表] マルコフランダムフィールドモデルの地球科学における様々な応用 (2012)
  • 著者名/発表者名: 桑谷立，永田賢二，岡田真人，鳥海光弘
  • 学会等名: 日本地球惑星科学連合2012年大会
  • 発表場所: 千葉県 千葉市 幕張メッセ
• [学会発表] 動径基底関数ネットワークにおける学習係数の数値的導出 (2012)
  • 著者名/発表者名: 徳田悟，永田賢二，岡田真人
  • 学会等名: 電子情報通信学会ニューロコンピューティング研究会
  • 発表場所: 愛知県 豊橋市 豊橋技術科学大学
• [学会発表] マルコフ確率場モデルにおけるハイパーパラメータ分布推定 (2012)
  • 著者名/発表者名: 大野義典，永田賢二，庄野逸，岡田真人
  • 学会等名: 電子情報通信学会ニューロコンピューティング研究会
  • 発表場所: 愛知県 豊橋市 豊橋技術科学大学
• [学会発表] 非線形マルコフ確率場モデルにおけるハイパーパラメータ推定の決定論的アルゴリズム (2011)
  • 著者名/発表者名: 大野義典,永田賢二,庄野逸,岡田真人
  • 学会等名: 電子情報通信学会技術報告
  • 発表場所: 東北大学,仙台
  • 年月日: 2011-11-24
• [学会発表] 非線形マルコフ確率場モデルにおけるハイパーパラメータ推定の決定論的アルゴリズム (2011)
  • 著者名/発表者名: 大野義典, 永田賢二, 庄野逸, 岡田真人
  • 学会等名: ニューロコンピューティング研究会
  • 発表場所: 東北大学
  • 年月日: 2011-11-24
• [学会発表] メトロポリス法における平均採択率の挙動について (2011)
  • 著者名/発表者名: 永田賢二, 岡田真人
  • 学会等名: 第14回情報論的学習理論ワークショップ(IBIS2011)
  • 発表場所: 奈良女子大学,奈良
  • 年月日: 2011-11-10
• [学会発表] メトロポリス法における平均採択率の挙動について (2011)
  • 著者名/発表者名: 永田賢二, 岡田真人
  • 学会等名: 第14回情報論的学習理論ワークショップ(IBIS2011)
  • 発表場所: 奈良女子大学
  • 年月日: 2011-11-10
• [学会発表] マルコフランダムフィールド(MRF)モデルを用いた地震波速度構造からの流体分布推定 (2011)
  • 著者名/発表者名: 桑谷立,永田賢二,岡田真人,鳥海光弘
  • 学会等名: 電子情報通信学会技術報告
  • 発表場所: 神戸大学,兵庫
  • 年月日: 2011-07-26
• [学会発表] マルコフランダムフィールド(MRF)モデルを用いた地震波速度構造からの流体分布推定 (2011)
  • 著者名/発表者名: 桑谷立, 永田賢二, 岡田真人, 鳥海光弘
  • 学会等名: ニューロコンピューティング研究会
  • 発表場所: 神戸大学
  • 年月日: 2011-07-26
• [学会発表] XPS データ解析へのベイズ推定の応用 (2011)
  • 著者名/発表者名: 村岡怜,永田賢二,佐々木岳彦,岡田真人
  • 学会等名: 第四回情報論的学習理論と機械学習研究会(IBISML)
  • 発表場所: 大阪大学,大阪
  • 年月日: 2011-03-29
• [学会発表] XPSデータ解析へのベイズ推定の応用 (2011)
  • 著者名/発表者名: 村岡怜, 永田賢二, 佐々木岳彦, 岡田真人
  • 学会等名: 第4回IBISML研究会
  • 発表場所: 大阪大学
  • 年月日: 2011-03-29
• [学会発表] 交換モンテカルロ法を用いたベイズ的スペクトル分解 (2011)
  • 著者名/発表者名: 永田賢二, 杉田精司, 岡田真人
  • 学会等名: 日本物理学会 第66回年次大会
  • 発表場所: 新潟大学
  • 年月日: 2011-03-28
• [学会発表] XPSデータ解析におけるベイズ推定によるアプローチ (2011)
  • 著者名/発表者名: 村岡怜, 永田賢二, 佐々木岳彦, 岡田真人
  • 学会等名: 日本物理学会 第66回年次大会
  • 発表場所: 新潟大学
  • 年月日: 2011-03-28
• [学会発表] シナプス抑圧を持つ連想記憶モデルにおける記憶容量 (2011)
  • 著者名/発表者名: 大坪洋介, 永田賢二, 大泉匡史, 岡田真人
  • 学会等名: 日本物理学会 第66回年次大会
  • 発表場所: 新潟大学
  • 年月日: 2011-03-25
• [学会発表] A New Modified Gaussian Model (MGM) Using a Bayesian Estimation Approach : toward Automated Analysis of Planetary Spectra. (2011)
  • 著者名/発表者名: S.Sugita, K.Nagata, N.Tsuboi, T.Hiroi, M.Okada
  • 学会等名: 42nd Lunar and Planetary Science Conference
  • 発表場所: Texas, USA
  • 年月日: 2011-03-08
• [学会発表] A New Modified Gaussian Model (MGM) Using a Bayesian Estimation Approach : Toward Automated Analysis of Planetary Spectra (2011)
  • 著者名/発表者名: Seiji Sugita, Kenji Nagata, Nobuko Tsuboi, Takahiro Hiroi and Masato Okada
  • 学会等名: 42nd Lunar and Planetary Science Conference
  • 発表場所: Texas, USA
  • 年月日: 2011-03-07
• [学会発表] シナプス抑圧を持つホップフィールドモデルの記憶容量 (2011)
  • 著者名/発表者名: 大坪洋介, 永田賢二, 大泉匡史, 岡田真人
  • 学会等名: ニューロコンピューティング研究会
  • 発表場所: 玉川大学
  • 年月日: 2011-03-07
• [学会発表] 交換モンテカルロ法による反射スペクトルにおける複合吸収帯の推定 (2010)
  • 著者名/発表者名: 永田賢二,杉田精司,岡田真人
  • 学会等名: 第一回情報論的学習理論と機械学習(IBISML)
  • 発表場所: 東京大学,東京
  • 年月日: 2010-06-15
• [学会発表] 交換モンテカルロ法による反射スペクトルにおける複合吸収帯の推定 (2010)
  • 著者名/発表者名: 永田賢二, 杉田精司, 岡田真人
  • 学会等名: 第1回IBISML研究会
  • 発表場所: 東京大学
  • 年月日: 2010-06-15
• [備考]
  • URL: http://mns.k.u-tokyo.ac.jp/~nagata/