• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2012 Fiscal Year Research-status Report

ベイジアンネットワークの構造学習で、離散と連続の属性が混在する場合

Research Project

Project/Area Number 24500172
Research Category

Grant-in-Aid for Scientific Research (C)

Research InstitutionOsaka University

Principal Investigator

鈴木 譲  大阪大学, 理学(系)研究科(研究院), 准教授 (50216397)

Project Period (FY) 2012-04-01 – 2015-03-31
KeywordsBayesianネットワーク / Chow-Liuアルゴリズム / 構造学習 / 機械学習 / MDL原理 / Bayes推定
Research Abstract

本研究では、実際例から、ベイジアンネットワーク(BN)の構造を学習する問題を検討している。従来は、BNに含まれるすべての属性が離散、または、すべての属性が連続という非現実的な仮定のもとで検討されてきた。本研究では、ベイズ的に予測確率を計算して、事後確率最大の構造を求めるという、基本原理は変えずに、離散や連続を仮定しない一般的なBNの構造学習の方法を確立する。本年度は、以下のような成果を得た。
1. Bayesianネットワークの構造推定の一致性について、証明した。離散、連続の確率変数が混在している場合については、従来は同様の証明は得られていない。
2.Bayesianネットワークは非巡回有効グラフであるが、無向グラフであるMarkovグラフについて、Chow-LiuアルゴリズムのBayesアルゴリズムで、離散も連続も両方使えるものを考案して、発表した。
3. 線形回帰について、Hannan-Quinnの命題を肯定的に解決した。一致性を満足するための最小のペナルティ項をもつ情報量基準が、Hannan-Quinnであることを示した。同様の証明は、自己回帰、分類に関しては得られているが、線形回帰に関しては得られていない。
4. 離散や連続を仮定しないMDL原理の一般化について、その理論的枠組を示した。従来、連続であれば、記述長が計算できないだめ、量子化して対応するなどの手立てが必要とされた。しかし、その場合でも、サンプル数に応じて精度をどうするかについての指針が得られていなかった。

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

本年度は、理論的な性質の証明が完成し、周辺の結果も整備され、国際会議5件、ジャーナル2件でその成果を発表している。

Strategy for Future Research Activity

今後は、むしろ、具体的に掘り下げて、実用的な検討(計算量、事前知識をいかに反映させるか)をすることと、理論面で類似研究、既存研究と比較しての位置づけを明確にすること、BNの構造学習にまで適用できるかなどに焦点が移りつつある。具体的には、以下の問題に取り組む
1. 一般的なBNの構造推定を、実用的な時間で実行する方法を開拓する
2. 相互情報量のベイズ的な推定量を計算し、Chow-Liuアルゴリズムに適用する
3. 一般的なBNの構造推定を、欠損データが含まれている状況で考える
4. 今回のベイズ予測確率を求める方法がどのような範囲で適用されるか

Expenditure Plans for the Next FY Research Funding

昨年度からの繰越分(428,489円)は、2013年7月にイスタンブールで開催されるInternational Symposium on Information Theory (ISIT) 2013の旅費などに適用する。
本来は、平成24年度に利用するものであったが、2013年7月のISITの方が適当であるという判断をした。研究計画に変更はない。

  • Research Products

    (9 results)

All 2012

All Journal Article (6 results) (of which Peer Reviewed: 6 results) Presentation (3 results) (of which Invited: 1 results)

  • [Journal Article] Bayesian Network Structure Estimation Based on the Bayesian/MDL Criteria When Both Discrete and Continuous Variables Are Present2012

    • Author(s)
      Joe Suzuki
    • Journal Title

      Data Compression Conference (DCC)

      Volume: 1 Pages: 307-316

    • DOI

      10.1109/DCC.2012.37

    • Peer Reviewed
  • [Journal Article] Bayesian network structure learning for discrete and continuous variables2012

    • Author(s)
      Joe Suzuki
    • Journal Title

      Uncertainty Reasoning and Knowledge Engineering (URKE)

      Volume: 1 Pages: 141-144

    • DOI

      10.1109/URKE.2012.6319529

    • Peer Reviewed
  • [Journal Article] The Bayesian Chow-Liu Algorithm2012

    • Author(s)
      Joe Suzuki
    • Journal Title

      Probabilistic Graphical Models

      Volume: 1 Pages: 315-322

    • Peer Reviewed
  • [Journal Article] The Hannan-Quinn Proposition for Linear Regression2012

    • Author(s)
      Joe Suzuki
    • Journal Title

      International Journal of Statistics and Probability

      Volume: 1 Pages: 180-185

    • DOI

      DOI: 10.5539/ijsp.v1n2p179

    • Peer Reviewed
  • [Journal Article] Bayesian Criteria based on Universal Measures2012

    • Author(s)
      Joe Suzuki
    • Journal Title

      Information Theory and its Applications (ISITA)

      Volume: 1 Pages: 71-75

    • Peer Reviewed
  • [Journal Article] On d-Asymptotics for High-Dimensional Discriminant Analysis with Different Variance-Covariance Matrices2012

    • Author(s)
      Joe Suzuki
    • Journal Title

      IEICE Trans

      Volume: 1 Pages: 3106-3108

    • Peer Reviewed
  • [Presentation] Cover先生の研究室で思い出に残っているテーマ ~ 定常エルゴードな系列に対してのユニバーサルな予測2012

    • Author(s)
      鈴木譲
    • Organizer
      電子情報通信学会情報理論研究会
    • Place of Presentation
      別府湾ロイアルホテル
    • Year and Date
      20121211-20121211
    • Invited
  • [Presentation] Universal Prediction without assuming either Discrete or Continuous2012

    • Author(s)
      Joe Suzuki
    • Organizer
      Fourth Workshop on Game-Theoretic Probability and Related Topics
    • Place of Presentation
      東京大学(本郷)
    • Year and Date
      20121114-20121116
  • [Presentation] Bayesianネットワークの構造学習で離散と連続の変数が入り混じった場合 -実装について-2012

    • Author(s)
      鈴木譲
    • Organizer
      人工知能学会基本問題研究会
    • Place of Presentation
      北見工業大学
    • Year and Date
      20120809-20120810

URL: 

Published: 2014-07-24  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi