研究課題
モデル選択の代替手段として近年,モデル平均が注目を集めている.本研究ではモデル平均をBayes予測問題の枠組みで研究した.(対数尤度比)=(リスク)または(Shannonエントロピーの差)=(リスク)のような等式に着目し,近似は用いない.その結果,対数尤度最大化およびShannonエントロピー最大化という統計学における2大基本原理の間に双対性があることを明らかにした.【平成25・26年度の研究成果】予測の良さを測る損失関数としてKullback-Leiblerダイバージェンスを採用する.このとき,予測分布から真の分布への「距離」と真の分布から予測分布への「距離」の2つの損失関数を考えることができる.前者はe-ダイバージェンス損失,後者はm-ダイバージェンス損失と呼ばれ,両社は双対であると言われる.2大原理の間の双対性はダイバージェンスの双対性を通じて以下のように示される.(1) e-ダイバージェンス損失の下では,Shannonエントロピーの制約付き最大化がBayesリスク最小化と等価であり,対数尤度最大化はあるクラスの中で最悪の予測を導く.(2) m-ダイバージェンス損失の下では,対数尤度の制約付き最大化がBayesリスク最小化と等価であり,Shannonエントロピー最大化はあるクラスの中で最悪の予測を導く.【平成27年度の研究成果】最初の2年間の研究を深化させ,α-ダイバージェンス損失の場合を研究した.α=1の場合がe-ダイバージェンス,α=-1の場合がm-ダイバージェンスである.αの値を1から-1まで変化させることにより,Bayesリスク最小化と等価な最大化原理がどのように変化していくを明らかにした.日本学術振興会が主催している第8回日仏先端科学シンポジウムで"Duality between likelihood maximization and Shannon entropy maximization"というタイトルで研究発表を行った.
すべて 2014 2013
すべて 雑誌論文 (6件) (うち査読あり 3件) 学会発表 (8件) (うち招待講演 1件) 図書 (1件)
Annals of the Institute of Statistical Mathematics
巻: (Accepted)
10.1007/s10463-013-0421-1
Far East Journal of Theoretical Statistics
巻: 印刷中 ページ: -
Proceedings of 59th ISI World Statistics Congress, August 2013, Hong Kong
巻: - ページ: 3785-3790
巻: - ページ: 3765-3766
Journal of the Japan Statistical Society
巻: 43 ページ: 1-27
京都大学 数理解析研究所 講究録
巻: 1860 ページ: 104-119