• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

MDL原理に基づくBayesian Networkの学習-事前知識の導入による探索の効率化-

研究課題

研究課題/領域番号 09680367
研究種目

基盤研究(C)

配分区分補助金
応募区分一般
研究分野 知能情報学
研究機関大阪大学

研究代表者

鈴木 譲  大阪大学, 大学院・理学研究科, 助教授 (50216397)

研究分担者 佐竹 郁夫  大阪大学, 大学院・理学研究科, 助手 (80243161)
菊池 和徳  大阪大学, 大学院・理学研究科, 助手 (40252572)
高橋 智  大阪大学, 大学院・理学研究科, 講師 (70226835)
永友 清和  大阪大学, 大学院・理学研究科, 助教授 (90172543)
村上 順  大阪大学, 大学院・理学研究科, 助教授 (90157751)
研究期間 (年度) 1997 – 1998
研究課題ステータス 完了 (1998年度)
配分額 *注記
3,300千円 (直接経費: 3,300千円)
1998年度: 1,300千円 (直接経費: 1,300千円)
1997年度: 2,000千円 (直接経費: 2,000千円)
キーワードMDL原理 / Bayesian Network / 機械学習 / 事前知識 / 分岐限定法 / 帰納推論 / ネットワーク構造
研究概要

不確実な知識を確率を用いて表現し、何らかの推論を進めていく際に、Bayesian networkが頻繁に適用され、最近では、経営診断、医療診断、故障診断といった、分析診断型の問題に多くの実績を残している。Bayesian networkは、各属性データをノードで、その因果関係をノード間を結ぶ有向アークで示す、いわゆるDAG(directed acyclic graph)として表現される。特に、各ノードAの属性データx_Aは、有向アーク(A←B_i)を介して親にあたるノードB_iの属性データの値xB_i,i=1,2,・・・,m,を前提にした条件付値率P(x_A|x_B_1,,x_B_2,・・・,x_B_m)に基づいて生成されるという仮定がおかれる。すなわち、ノードの集合が事前に与えられれば、有向アークをどのように結ぶか(構造の決定)と、条件付確率をいかに設定するか(パラメータの推定)を検討して、Bayesian networkが決定される。Bayesian networkの推論は、一部のノードに事実として具体的な属性データを与えておき、他のノードの属性データの値をBayes統計学でいう事後確率最大の基準で推定する(未知属性データのおこりうる各値の確率を付与する推論も可能である。)処理に相当する。
本研究では、推論を行なう前にBayesian networkを最初にいかに獲得するか、特にその構造の決定について議論をすすめた。Bayesian networkは視覚的に表現されるので、エキスパートがその知識を直接Bayesian networkの形式で記述してもよい。しかし、大規模なnetworkでは、その作業量が膨大になることと、エキスパートの潜在意識にある知識が表現されないことなどから、トレーニングデータからの自動学習が検討されるに至っている。本研究では、この問題についてminimum description length(MDL)原理に基づいて解決する方法を示した。一般に、MDL原理は、トレーニングデータを、知識の記述と、その知識に基づいたトレーニングデータの記述の2段階で記述し、その合計の記述長(ビット数)を最小にする知識を採択する。MDL原理は、前者を知識の記述長(知識の簡潔さを表す)、後者をその知識では説明できない例外の記述長(データの知識への適合性を表す)とみなせば、データ圧縮の立場からその両者について最もバランスのとれた知識を真の知識とみなす学習原理であるということができる。
特に、構造決定の探索に分岐限定法を用いて、効率良く最適解を求める方法を見い出した。この結果は、電子情報通信学会論文誌英文誌分冊D(1999年2月)に掲載された。

報告書

(3件)
  • 1998 実績報告書   研究成果報告書概要
  • 1997 実績報告書
  • 研究成果

    (24件)

すべて その他

すべて 文献書誌 (24件)

  • [文献書誌] Joe Suzuki: "A Further Result on the Markor Chain Model of GAs and then Application to SA-like strategy" IEEE Trans.on Systems,Man,and Cybern.Part B. Vol28 no1. 95-102 (1998)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      1998 研究成果報告書概要
  • [文献書誌] Joe Suzuki: "A Relation ship between Context Tree Weijhting and General Weighting Techniques for Tree Sources" IEICE Trans.on Founclamentals.Vol81-A no10. 2412-2417 (1998)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      1998 研究成果報告書概要
  • [文献書誌] Joe Suzuki: "Learning Bayesian Belief Networks Based on the MDL Principle : An efficiえnt algorithm using the branch and bound techniques." IEICE Trans.on Information and Sysstems.Vol82-D no2. 356-366 (1999)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      1998 研究成果報告書概要
  • [文献書誌] Joseph Silverman and Joe Suzuki: "Elliptec Curve Discrete Logarcthm and the Index Calculus" Lecture Note on Computer.Science,Asia crypt '98. 1514. 110-125 (1998)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      1998 研究成果報告書概要
  • [文献書誌] Harasawa,Shikata Suzuki Imai: "Comparing the Mov and FR reductions in Elliptic Curve Crypto graphy" Lecture Note on Computer Science,Eurocrypt '99. 1592. 189-204 (1999)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      1998 研究成果報告書概要
  • [文献書誌] Hojo,Ryobko,Suzuki: "It is not enough to use stationary ergodic source for analyzing universal coding" Int.Symp.on Information Theory and its applications. (1998)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      1998 研究成果報告書概要
  • [文献書誌] 鈴木 譲,横尾英俊: "情報理論とその応用学会 情報源符号化とデータ圧縮 一無なみ圧縮(分筆)" 培風館, 18 (1999)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      1998 研究成果報告書概要
  • [文献書誌] Joe Suzuki: ""A Further Result on the Markov Chain Model of GAs and Their Application to SA-like Strategy"" IEEE Trans.on System, Man, and Cybernetics Part B. Vol.28, No.1. 95-102 (1998)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      1998 研究成果報告書概要
  • [文献書誌] Joe Suzuki: ""A Relationship between Context Tree Weighting and General Model Weighting Tech-niques for Tree Sources"" IEICE Trans.on Fundamentals.Vol.81-A,No.10. 2412-2417 (1998)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      1998 研究成果報告書概要
  • [文献書誌] Joseph H.Silverman and Joe Suzuki: ""Elliptic Curve Discrete Logarithms and the Index Calculus"" Lecture Note on Computer Science (1514), Asiacrypt'98. Springer-Verlag. 110-125 (1998)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      1998 研究成果報告書概要
  • [文献書誌] Joe Suzuki: ""Learning Baysian Belief Networks Based on the MDL Principle : An Efficient Algorithm Using the Branch and Bound Technique"" IEICE Trans.on Information and Systems. Vol.82-D,No.2. (1999)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      1998 研究成果報告書概要
  • [文献書誌] Ryuichi Harasawa, Junji Shikata, Joe Suzuki, Hideki Imai: ""Comparing the MOV and FR Reductions in Elliptic Curve Cryptography"" Lecture Note on Computer Science (1592), Eurocrypt'99. Springer-Verlag. 189-204 (1999)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      1998 研究成果報告書概要
  • [文献書誌] Boris Ryabko, Kouki Hojou, and Joe Suzuki: ""It is not enough to use stationary ergodic source for analyzing universal coding."" ISITA'98, Mexico City, Mexico. (1998)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      1998 研究成果報告書概要
  • [文献書誌] Joe Suzuki and Hidetoshi Yokoo: "Source Coding and Data Compression-Noiselss Coding-" (18pages, in Japanese), The Society of Information Theory and its Applications. Baihukan, (1999)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      1998 研究成果報告書概要
  • [文献書誌] Joe Suzuki: "A Further Result on the Narkor Chsim Model of GAA and thei Application to SA-like strategy" IEEE Trans on Systems,Man,and Cybernet.is. Vol.28,No.1. 95-102 (1998)

    • 関連する報告書
      1998 実績報告書
  • [文献書誌] Joe Suzuki: "A Relashims hip between Context Tree Weighting and General Weighting techniques for Tree Sources" IEICE Trans on Fundomentals. Vol.81-A,No.10. 2412-2417 (1998)

    • 関連する報告書
      1998 実績報告書
  • [文献書誌] Joe Suzuki: "Learnign Bayesian Belief Networks Based on the MDL Rinceple:An effisient algorithm using the branch and board techniques" IEICE Trans.on Information and Systems. Vol.82-D,No.2. (1999)

    • 関連する報告書
      1998 実績報告書
  • [文献書誌] Joseph Silverman and Joe Suzuki: "Elliptec Curre Discrete Loganchms and the Index Calculus" Lecture Note on Computer Science,Asia crypt'98. 1514. 110-125 (1998)

    • 関連する報告書
      1998 実績報告書
  • [文献書誌] Harasawa,Shikata,Suzuki,Imai: "Comparing the MOD and FR reductions in Elliptic Curve Cryptography" Lecture Note on Computer Science,Eurocrypt'99. (to appear). (1999)

    • 関連する報告書
      1998 実績報告書
  • [文献書誌] Hojo,Ryabku,Suzuki: "It is not enough to use stationary ergodic soruce for analyzing universal coding" Int.Symposium on Information theory and its applications. (1998)

    • 関連する報告書
      1998 実績報告書
  • [文献書誌] 鈴木 譲,横尾英俊: "情報理論とその応用学会編,培風館" 情報源符号化とデータ圧縮-無歪みデータ圧縮(文筆), 18 (1999)

    • 関連する報告書
      1998 実績報告書
  • [文献書誌] Joe Suzuki: "“A Fur ther Resuli on the Markov Chain Model of GAs and its Application to SA-like Strategy"" IEEE Trans. on SMC. Vol.28 No.1. (1998)

    • 関連する報告書
      1997 実績報告書
  • [文献書誌] Joe Suzuki: "“Universal Prediction and Universal Coding"" IEEE Int. Symp. on Inform. Theory. (1998)

    • 関連する報告書
      1997 実績報告書
  • [文献書誌] Joe Suzuki: "“On the Error Probability of Model Selection on Clossification" IEEE Int. Symp. on Inform. Theory. (1998)

    • 関連する報告書
      1997 実績報告書

URL: 

公開日: 1997-04-01   更新日: 2016-04-21  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi