2006 Fiscal Year Annual Research Report
理論統計学と機械学習理論の統合による新しいモデル選択規準の開発
| Project/Area Number |
05J10018
|
|---|
| Research Institution | The Institute of Statistical Mathematics |
|---|
Principal Investigator |
小林 景 統計数理研究所, 数理・推論研究系, 特別研究員(PD)
|
|---|
| Keywords | カーネルマシン / 情報量規準 / モデル選択 / ベイズ予測 |
|---|
| Research Abstract |
ランダム行列の解析とミニマックス、PAC型の統計的学習理論に関して多くの優秀な研究者が集まるカリフォルニア大学バークレー校においてこれらのテーマについて研究した。
Bin Yuグループを中心として、セミナーおよび輪読、授業に参加、発表して理論の知識と応用の最新の情報を得るとともに、その二つの分野とモデル選択との関係について考察した。特に、ランダム行列については、数学科でのvon Neumann algebraやfree probabilityの授業や、統計学科での応用的視点からの授業をそれぞれ受けた。またそれに関して、Bin Yuおよびその学生との共同研究のテーマを見つけ、研究を開始した。
また、これらとは別に、ジェフリーズ事前分布によるベイズ予測を優越するベイズ縮小予測の理論を、計量が訓練データと未来の分布とで異なる場合に拡張し、これを回帰分析に応用した。その結果、これまで用いてきた説明変数の分布に関する球対称性等の応用上不自然な仮定なしに、一様事前分布によるベイズ予測を優越するベイズ縮小予測を構成することができた。また、そのミニマクス性も示した。これらの結果はテクニカルレポートとして発表し(学会誌等への発表(3)参照)、また学会誌にも投稿した。
|
