ベイジアンネットワークの構造学習の一致性に関する研究

2012 年度 研究成果報告書

• 研究課題/領域番号: 21500138
• 研究種目: 基盤研究(C)
• 配分区分: 補助金
• 応募区分: 一般
• 研究分野: 知能情報学
• 研究機関: 大阪大学
• 研究代表者: 鈴木 譲 大阪大学, 大学院・理学研究科, 准教授 (50216397)
• 連携研究者: 藤原 彰夫 大阪大学, 大学院・理学研究科, 教授 (30251359)
• 研究期間 (年度): 2009 – 2012
• キーワード: ベイズネット / 情報量基準 / 一致性 / ガウシアン / 統計科学

研究概要

訓練データから、ベイジアンネットワーク(BN)の構造を推定する問題を検討した。特に、情報量基準といって、尤度(データの構造への適合性を表現する)と、BNの構造の複雑さを表現する項の値の和を計算し、それを最小にする構造を推定結果とした。前者を重視しすぎると、過学習といって、複雑すぎる構造を選択することになる。本研究では、訓練データの個数の増加とともに確率1で、真の構造を正しく推定するための両者のバランスに関する条件を見出し、それを数学的に証明した。

研究成果

• [雑誌論文] ベイジアンネットワークの統計的推論の数理,田中和之 (2010)
  • 著者名/発表者名: 鈴木譲
  • 雑誌名: 数理科学(サイエンス社) 巻: No.567
• [雑誌論文] ベイジアンネットワークと代数幾何 (2010)
  • 著者名/発表者名: 鈴木譲
  • 雑誌名: 人工知能学会誌 巻: vol.25,no.6 ページ: 826-833
• [雑誌論文] A Markov Chain Analysis on Genetic Algorithms - Large Deviation Principle Approach - (2010)
  • 著者名/発表者名: Joe Suzuki
  • 雑誌名: Journal of Applied Probability 巻: Volume 47, Number 4Volume 47, Number 4 ページ: 967-975
  • 査読あり
• [学会発表] Bayesian Network Structure Estimation Based on the Bayesian/MDL Criteria when Both Discrete and Continuous Variables are Present (2012)
  • 著者名/発表者名: Joe Suzuki
  • 学会等名: Proc of Data Compression Conference
  • 発表場所: Snowbird, UT
  • 年月日: 2012-04-11
• [学会発表] 離散と連続の属性値が混在した場合のベイジアンネットワークの構造学習 (2012)
  • 著者名/発表者名: 鈴木譲
  • 学会等名: 電子情報通信学会情報論的学習理論研究会
  • 発表場所: 統計数理研究所
  • 年月日: 2012-03-12
• [学会発表] MDL/Bayesian Criteria based on Universal Coding/Measure (2011)
  • 著者名/発表者名: Joe Suzuki
  • 学会等名: Solomonoff 85th Memorial Conference, Lecture Note on Artificial Intelligence
  • 発表場所: Springer
  • 年月日: 2011-11-28
• [学会発表] ベイジアンネットワークの構造推定で、離散と連続の属性が混在する場合 (2011)
  • 著者名/発表者名: 鈴木譲(招待講演)
  • 学会等名: 人工知能学会基本問題研究会
  • 発表場所: 電気通信大学
  • 年月日: 2011-11-26
• [学会発表] 離散データの因果の同定～2値から、多値への一般化について (2011)
  • 著者名/発表者名: 鈴木譲,清水昌平,鷲尾隆
  • 学会等名: 電子情報通信学会情報論的学習理論研究会
  • 発表場所: 奈良女子大学
  • 年月日: 2011-11-10
• [学会発表] (2011)
  • 著者名/発表者名: T. Inazumi, T. Washio, S. Shimizu, J.Suzuki, A. Yamamoto and Y. Kawahara
  • 学会等名: Proc.UAI2011:The 27th Conf. on Uncertainty inArtificial Intelligence
  • 年月日: 2011-07-21
• [学会発表] The Bayesian Chow-LiuAlgorithm-最も一般的な場合- (2011)
  • 著者名/発表者名: 鈴木譲
  • 学会等名: 電子情報通信学会情報論的学習理論研究会
  • 発表場所: 東京大学
  • 年月日: 2011-06-20
• [学会発表] The Universal Measure for General Sources and its Application toMDL/Bayesian Criteria (2011)
  • 著者名/発表者名: Joe Suzuki
  • 学会等名: Poc of DataCompression Conference
  • 年月日: 2011-03-29
• [学会発表] 一般的なMDL基準のBayesianネットワークの構造推定への応用:離散と連続な確率変数が混在する場合 (2011)
  • 著者名/発表者名: 鈴木譲
  • 学会等名: 電子情報通信学会情報理論研究会
  • 発表場所: 大阪大学
  • 年月日: 2011-03-04
• [学会発表] A Generalization of Nonparametric Estimation and On-Line Prediction for Stationary Ergodic Sources (2010)
  • 著者名/発表者名: Joe Suzuki
  • 学会等名: Asia-Europe Information Theory Workshop
  • 発表場所: Ishigaki Island
  • 年月日: 20101022-24
• [学会発表] 離散や連続を仮定しないMDL基準の一般化 (2010)
  • 著者名/発表者名: 鈴木譲
  • 学会等名: SITA2010
  • 発表場所: 松代ロイアルホテル(長野県)
  • 年月日: 2010-12-02
• [学会発表] Information Criteriaand their Strong Consistency for LearningBayesian Networks (2010)
  • 著者名/発表者名: Joe Suzuki
  • 学会等名: AMBN 2010
  • 発表場所: キャンパスイノベーションセンター
  • 年月日: 2010-11-19
• [学会発表] 一致性を満足する相互情報量の推定と機械学習への応用 (2010)
  • 著者名/発表者名: 鈴木譲
  • 学会等名: 人工知能学会第78回基本問題研究会
  • 発表場所: 兵庫県立大学
  • 年月日: 2010-07-31
• [学会発表] A Generalization of the Chow-Liu Algorithm and its Applications to Artificial Intelligence (2010)
  • 著者名/発表者名: Joe Suzuki
  • 学会等名: International Conference on Artificial Intelligence 2010
  • 発表場所: Las Vegas, NV
  • 年月日: 2010-07-23
• [学会発表] 離散や連続を仮定しないユニバーサル符号化と一般的なShannon-MacMillan-Breiman定理 (2010)
  • 著者名/発表者名: 鈴木譲
  • 学会等名: 電子情報通信学会情報理論研究会
  • 発表場所: 徳島大学
  • 年月日: 2010-05-21
• [学会発表] Chow-Liu Algorithm forGeneralized Random Values (2010)
  • 著者名/発表者名: Joe Suzuki
  • 学会等名: Proc of Learning Conference
  • 発表場所: Snowbird, UT
  • 年月日: 2010-04-15
• [学会発表] 離散や連続を仮定しない情報源のノンパラメトリック推定とオンライン予測の評価 (2010)
  • 著者名/発表者名: 鈴木譲
  • 学会等名: 人工知能学会第12回DMSM研究会
  • 発表場所: 統計数理研究所
  • 年月日: 2010-03-30
• [学会発表] 一般的な確率変数に対するChow-Liuアルゴリズム (2009)
  • 著者名/発表者名: 鈴木譲
  • 学会等名: 情報理論とその応用学会(SITA2009)
  • 発表場所: 山口
  • 年月日: 2009-12-06
• [学会発表] ベイジアンネットワークの構造学習の理論的性質 (2009)
  • 著者名/発表者名: 鈴木譲(招待講演)
  • 学会等名: 人工知能学会第75回FPAI研究会
  • 発表場所: 電気通信大学
  • 年月日: 2009-11-13
• [学会発表] Hannan-Quinnの命題は、線形回帰でも、ガウス型Baysianネットワークの構造推定でも正しい (2009)
  • 著者名/発表者名: 鈴木譲
  • 学会等名: 電子情報通信学会IBIS
  • 発表場所: 九州大学
  • 年月日: 2009-10-20
• [学会発表] 大偏差原理を用いた遺伝的アルゴリズムのMarkov連鎖的解析 (2009)
  • 著者名/発表者名: 鈴木譲
  • 学会等名: 人工知能学会第2回ECF研究会
  • 発表場所: 東京大学
  • 年月日: 2009-10-02
• [学会発表] ガウス型ベイジアンネットワークの構造学習の一致性について (2009)
  • 著者名/発表者名: 鈴木譲
  • 学会等名: 人工知能学会第86回KBS研究会
  • 発表場所: 和歌山大学南紀白浜サテライト
  • 年月日: 2009-08-26
• [学会発表] A Conjecture on Strong Consistent Learning (2009)
  • 著者名/発表者名: Joe Suzuki
  • 学会等名: LLLL 2009
  • 発表場所: Kyoto,Japan
  • 年月日: 2009-07-18
• [図書] ベイジアンネットワーク入門 (2009)
  • 著者名/発表者名: 鈴木譲
  • 総ページ数: 211
  • 出版者: 培風館