• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2012 年度 実施状況報告書

鞍点等式を用いたBayes推測の新展開

研究課題

研究課題/領域番号 23500354
研究機関九州大学

研究代表者

大西 俊郎  九州大学, 経済学研究科(研究院), 准教授 (60353413)

キーワード統計科学 / ベイズ予測 / 双対性 / モデル平均 / モデル選択
研究概要

今年度の最大の成果は,統計学における基本原理である対数尤度最大化およびShannonエントロピー最大化という2つの概念の間に双対性があることを明らかにしたことである.2つのKullback-Leiblerダイバージェンスであるe-ダイバージェンスおよびm-ダイバージェンスは互いに双対であると言われる.対数尤度最大化およびShannonエントロピー最大化の間の双対性はこのダイバージェンス間の双対性を通じて示される.この研究は,モデルが離散個の場合を議論した昨年度の研究を深化させ,離散個の場合を含む一般の場合を議論したものである.具体的には,モデル平均をBayes予測問題の枠組みで定式化することにより,次の2つの事実を得た.
(1) まず,e-ダイバージェンス損失の下で考える.この損失の下でBayesリスク最小化は対数尤度最大化とは一致せず,対数尤度を適度に大きくすることによって実現される.望大項と望小項がバランスするという鞍点等式に着目することにより,この事実が明確に示された.また,Bayesリスクの最小問題は,最適解が共通という意味で,Shannonエントロピーの制約付き最大問題と等価であることが分かった.このとき,正準ウェイトと平均ウェイトという2つの概念を導入すると理論展開の見通しがよくなる.
(2) 一方,e-ダイバージェンス損失と双対なm-ダイバージェンス損失の下で考えると,上記と双対な結果が得られた.すなわち,Bayesリスク最小化はShannonエントロピー最大化とは一致せず,Shannonエントロピーを適度に大きくすることによって実現される.また,Bayesリスクの最小問題は,対数尤度の制約付き最大問題と等価であることが分かった.理論展開上,正準ウェイトとエントロピーウェイトという概念が自然に導入される.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

統計学における基本原理である対数尤度最大化とShannonエントロピー最大化の間に双対性を見出すことができた.これは理論的に大変重要な成果と考えている.特殊ケースについては論文が採択され,一般型の論文を現在執筆中である.

今後の研究の推進方策

平成23・24年度の研究を次の2つの意味で更に深化させ国際研究集会で発表し,論文を提出する.(1) AIC, BICおよびMDLなどの情報量基準との関連を論じる.概要で述べた枠組みで統一的な議論が可能と予想している.(2) これまではe-ダイバージェンス損失とm-ダイバージェンス損失を取り扱ったが,これを一般化してα-ダイバージェンス損失で議論する.これについては既に面白い結果を得ている.

次年度の研究費の使用計画

旅費:研究成果を国際研究集会(2回)および国内研究集会(3回)で発表し,研究成果を論文として投稿する(2本).研究打ち合わせは,柳本教授と2回を予定している.
設備備品:ノートPC(Panasonic)を購入する.関数解析や数理物理学との関連が見えてきているので,関連分野の専門書を購入する.

  • 研究成果

    (8件)

すべて 2013 2012

すべて 雑誌論文 (2件) (うち査読あり 1件) 学会発表 (4件) 図書 (2件)

  • [雑誌論文] Twofold structure of duality in Bayesian model averaging2013

    • 著者名/発表者名
      Toshio Ohnishi and Takemi Yanagimoto
    • 雑誌名

      Journal of the Japan Statistical Society

      巻: 43 ページ: 1-27

    • 査読あり
  • [雑誌論文] Permissive boundary prior function as a virtually proper prior density2012

    • 著者名/発表者名
      Takemi Yanagimoto and Toshio Ohnishi
    • 雑誌名

      Reserach memorandum, The Institute of Statistical Mathematics

      巻: 1159

  • [学会発表] Duality in Bayesian prediction and its implication2013

    • 著者名/発表者名
      大西俊郎, 柳本武美
    • 学会等名
      RIMS共同研究による研究会"Asymptotic Expansions for Various Models and Their Related Topics"
    • 発表場所
      京都
    • 年月日
      20130304-20130306
  • [学会発表] Dual roles of maximizing likelihood and Shannon entropy in Bayesian prediction2012

    • 著者名/発表者名
      大西俊郎, 柳本武美
    • 学会等名
      科研費シンポジウム「統計的推測とその応用:正則と非正則」
    • 発表場所
      東京
    • 年月日
      20121218-20121219
  • [学会発表] Dual saddlepoint equalities in model averaging and their implication2012

    • 著者名/発表者名
      Toshio Ohnishi, Takemi Yanagimoto and Peter Dunn
    • 学会等名
      The 2nd Institute of Mathematical Statistics Asia Pacific Rim Meetings
    • 発表場所
      Tsukuba
    • 年月日
      20120702-20120704
  • [学会発表] Twofold structure of duality in Bayesian model averaging2012

    • 著者名/発表者名
      大西俊郎, 柳本武美
    • 学会等名
      統計関連学会連合大会
    • 発表場所
      北海道
    • 年月日
      2012-09-11
  • [図書] 統計学(日本統計学会公式認定 統計検定1級対応)2013

    • 著者名/発表者名
      二宮嘉行, 大西俊郎, 小林景, 椎名洋, 笛田薫, 田中研太郎, 岡田謙介, 大屋幸輔, 廣瀬英雄, 折笠秀樹
    • 総ページ数
      320
    • 出版者
      東京図書
  • [図書] 日本統計学会公式認定 統計検定 問題と解説(2012年)1級・RSS/JSS試験2013

    • 著者名/発表者名
      一般社団法人日本統計学会 (編集)
    • 総ページ数
      148
    • 出版者
      実務教育出版

URL: 

公開日: 2014-07-24  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi