2013 Fiscal Year Annual Research Report
| Project/Area Number |
23500354
|
|---|
| Research Institution | Kyushu University |
|---|
Principal Investigator |
大西 俊郎 九州大学, 経済学研究科(研究院), 准教授 (60353413)
|
|---|
| Keywords | 統計科学 / モデル平均 / Bayes予測 / 双対性 / モデル選択 / 熱力学 |
|---|
| Research Abstract |
モデル選択の代替手段として近年，モデル平均が注目を集めている．本研究ではモデル平均をBayes予測問題の枠組みで研究した．(対数尤度比)＝(リスク)または(Shannonエントロピーの差)＝(リスク)のような等式に着目し，近似は用いない．その結果，対数尤度最大化およびShannonエントロピー最大化という統計学における2大基本原理の間に双対性があることを明らかにした．
【平成25・26年度の研究成果】予測の良さを測る損失関数としてKullback-Leiblerダイバージェンスを採用する．このとき，予測分布から真の分布への「距離」と真の分布から予測分布への「距離」の2つの損失関数を考えることができる．前者はe-ダイバージェンス損失，後者はm-ダイバージェンス損失と呼ばれ，両社は双対であると言われる．2大原理の間の双対性はダイバージェンスの双対性を通じて以下のように示される．(1) e-ダイバージェンス損失の下では，Shannonエントロピーの制約付き最大化がBayesリスク最小化と等価であり，対数尤度最大化はあるクラスの中で最悪の予測を導く．(2) m-ダイバージェンス損失の下では，対数尤度の制約付き最大化がBayesリスク最小化と等価であり，Shannonエントロピー最大化はあるクラスの中で最悪の予測を導く．
【平成27年度の研究成果】最初の2年間の研究を深化させ，α-ダイバージェンス損失の場合を研究した．α=1の場合がe-ダイバージェンス，α=-1の場合がm-ダイバージェンスである．αの値を1から-1まで変化させることにより，Bayesリスク最小化と等価な最大化原理がどのように変化していくを明らかにした．日本学術振興会が主催している第8回日仏先端科学シンポジウムで"Duality between likelihood maximization and Shannon entropy maximization"というタイトルで研究発表を行った．
|
