研究課題/領域番号 |
23500354
|
研究機関 | 九州大学 |
研究代表者 |
大西 俊郎 九州大学, 経済学研究科(研究院), 准教授 (60353413)
|
研究期間 (年度) |
2011-04-28 – 2014-03-31
|
キーワード | 統計科学 / ベイズ推測 / モデルアベレージング / Bayes予測問題 / モデル選択 |
研究概要 |
近年,モデル選択の代替手段としてモデルアベレージングが注目を集めている.複数のモデルを平均することで,複数のモデルから1つを選択することによる推測の不安定性を回避できるからである.本年度の研究では,モデルアベレージングをBayes予測問題の枠組みで定式化することにより,統計学における基本概念である対数尤度やシャノン・エントロピーの間に双対性があることを明らかにした.まず,e-ダイバージェンス損失の下で考える.この損失の下でBayesリスク最小化は対数尤度最大化とは一致せず,対数尤度を適度に大きくすることによって実現される.望大項と望小項がバランスするという鞍点等式に着目することにより,この事実が明確に示された.また,ルジャンドル変換を用いてBayesリスク最小化を等価な問題に書き換えると,最適解はシャノン・エントロピー最大化によって得られることが分かった.一方,e-ダイバージェンス損失と双対なm-ダイバージェンス損失の下で考えると,上記と双対な結果が得られた.すなわち,Bayesリスク最小化はシャノン・エントロピー最大化と一致せず,シャノン・エントロピーの適度に大きくすることによって実現される.また,ルジャンドル変換を使ってBayesリスク最小化を等価な問題に書き換えると,対数尤度最大化によって最適解が得られる.対数尤度とシャノン・エントロピーの間の双対性が双対なカルバック・ライブラー・ダイバージェンス(e-およびm-ダイバージェンス)を通じて明らかとなった.
|
現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
対数尤度とシャノンエントロピーは統計学における基本概念であり,「研究実績の概要」に述べたとおり,この2つの間に双対性が見出された.これは理論的に大変重要な成果と考えている.また,鞍点等式という等式に着目することにより,Bayes 推測に内在する解析的性質が明らかになった.これは研究の目的の1つである.
|
今後の研究の推進方策 |
平成23年度に行った研究を2つの方向に拡張したい.(1)平成23年度は複数のモデルが離散的な場合を取り扱ったが,平成24年度は連続的に変化する複数のモデルを取り扱いたいと考えている.既に研究を進めており,面白い結果も得られている.(2)平成23年度はe-ダイバージェンス損失とm-ダイバージェンス損失を取り扱ったが,これを一般化してα-ダイバージェンス損失で議論したいと考えている.e-ダイバージェンス損失に基づく推測ではデータ重視,m-ダイバージェンス損失に基づく推測ではモデル重視という結果が出ている.α-ダイバージェンス損失ではデータとモデルの両方を勘案したロバストな推測ができると予想している.
|
次年度の研究費の使用計画 |
旅費:研究打ち合わせは,柳本教授と2回,Dunn准教授と1回を予定している.研究成果を国内(2回)および国際研究集会(1回)で発表し,研究成果を論文として投稿する(2本程度).設備備品:デスクトップPC(Apple Mac)を購入する.関数解析や数理物理学との関連が見えてきているので,関連分野の専門書を購入する.
|