2012 Fiscal Year Research-status Report
| Project/Area Number |
23500354
|
|---|
| Research Institution | Kyushu University |
|---|
Principal Investigator |
大西 俊郎 九州大学, 経済学研究科(研究院), 准教授 (60353413)
|
|---|
| Keywords | 統計科学 / ベイズ予測 / 双対性 / モデル平均 / モデル選択 |
|---|
| Research Abstract |
今年度の最大の成果は，統計学における基本原理である対数尤度最大化およびShannonエントロピー最大化という2つの概念の間に双対性があることを明らかにしたことである．2つのKullback-Leiblerダイバージェンスであるe-ダイバージェンスおよびm-ダイバージェンスは互いに双対であると言われる．対数尤度最大化およびShannonエントロピー最大化の間の双対性はこのダイバージェンス間の双対性を通じて示される．この研究は，モデルが離散個の場合を議論した昨年度の研究を深化させ，離散個の場合を含む一般の場合を議論したものである．具体的には，モデル平均をBayes予測問題の枠組みで定式化することにより，次の2つの事実を得た．
(1) まず，e-ダイバージェンス損失の下で考える．この損失の下でBayesリスク最小化は対数尤度最大化とは一致せず，対数尤度を適度に大きくすることによって実現される．望大項と望小項がバランスするという鞍点等式に着目することにより，この事実が明確に示された．また，Bayesリスクの最小問題は，最適解が共通という意味で，Shannonエントロピーの制約付き最大問題と等価であることが分かった．このとき，正準ウェイトと平均ウェイトという2つの概念を導入すると理論展開の見通しがよくなる．
(2) 一方，e-ダイバージェンス損失と双対なm-ダイバージェンス損失の下で考えると，上記と双対な結果が得られた．すなわち，Bayesリスク最小化はShannonエントロピー最大化とは一致せず，Shannonエントロピーを適度に大きくすることによって実現される．また，Bayesリスクの最小問題は，対数尤度の制約付き最大問題と等価であることが分かった．理論展開上，正準ウェイトとエントロピーウェイトという概念が自然に導入される．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
統計学における基本原理である対数尤度最大化とShannonエントロピー最大化の間に双対性を見出すことができた．これは理論的に大変重要な成果と考えている．特殊ケースについては論文が採択され，一般型の論文を現在執筆中である．
|
| Strategy for Future Research Activity |
平成23・24年度の研究を次の2つの意味で更に深化させ国際研究集会で発表し，論文を提出する．(1) AIC, BICおよびMDLなどの情報量基準との関連を論じる．概要で述べた枠組みで統一的な議論が可能と予想している．(2) これまではe-ダイバージェンス損失とm-ダイバージェンス損失を取り扱ったが，これを一般化してα-ダイバージェンス損失で議論する．これについては既に面白い結果を得ている．
|
| Expenditure Plans for the Next FY Research Funding |
旅費：研究成果を国際研究集会（2回）および国内研究集会（3回）で発表し，研究成果を論文として投稿する（2本）．研究打ち合わせは，柳本教授と2回を予定している．
設備備品：ノートPC（Panasonic）を購入する．関数解析や数理物理学との関連が見えてきているので，関連分野の専門書を購入する．
|
