2015 Fiscal Year Annual Research Report
セミパラメトリックベイズ推論アプローチによるスパースモデリングの深化と応用
| Project Area | Initiative for High-Dimensional Data-Driven Science through Deepening of Sparse Modeling |
|---|
| Project/Area Number |
25120012
|
|---|
| Research Institution | The Institute of Statistical Mathematics |
|---|
Principal Investigator |
福水 健次 統計数理研究所, 大学共同利用機関等の部局等, 教授 (60311362)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
鈴木 大慈 東京工業大学, 情報理工学(系)研究科, 准教授 (60551372)
西山 悠 電気通信大学, その他の研究科, 助教 (60586395)
|
|---|
| Project Period (FY) |
2013-06-28 – 2018-03-31
|
| Keywords | スパースモデリング / セミパラメトリック / ベイズ推論 / 最適化 / アルゴリズム |
|---|
| Outline of Annual Research Achievements |
以下の４点が主要な実績である．
（１）カーネルベイズ推論の展開： カーネルベイズ則などで現れる重み付サンプル表現に対して，想定した関数族に属していない関数族の積分値を計算した場合に，積分近似誤差がどのようになるか理論解析を行った．その結果，ある場合には，関数の滑らかさに応じて最適な近似誤差のオーダーを持つことが分かった．これは，カーネル法による重み付サンプル表現の有効性を理論的に示している．また，カーネルベイズ法に関する Matlab toolbox の開発を行った．
（２）セミパラメトリック状態空間モデル： 観測モデルの尤度関数が計算不能であるがサンプリングが可能な設定のもとでの，状態変数のフィルタリングアルゴリズムを開発し，代表的な例として，ファイナンス分野で重要な，裾の重い分布を用いた確率的ボラティリティモデルに適用して良好な結果を得た．また，これまで中心に研究を進めてきたフィルタリングに加えて，スムージング（過去の状態の推定問題）にも発展させた．
（３）セミパラメトリックスパースモデリング： グラフィカルモデルのパラメータ推定において，2つのモデル間の差のみをスパースに推定する方法を開発し，その理論解析を行うともに，遺伝子ネットワーク解析などに適用して有効性を確認した．この結果は数理統計分野のトップジャーナルであるAnnals of Statistics に採択された．また，データ間の高次の関係性をとらえる低ランクテンソル推定手法について考察し，ベイズ推定量がミニマックスレートを達成することや，非線形ノンパラメトリックモデルへの拡張を行った．さらに，構造的正則化学習を効率的に計算する確率的最適化手法の理論を強めた．
（４）スパース・シミュレーション表現によるセミパラメトリック推論： 今年度は基本的なアルゴリズムの検討を行った．
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
本年度より，統数研・特任助教・柳松氏に連携研究者として本計画研究に参加してもらい，セミパラメトリック・スパースモデリングのアルゴリズムに関して研究を進めている．その結果，特にグラフィカルモデルを用いたセミパラメトリック・スパースモデリングに関して顕著な進展が見られた．他の研究課題に関しても予定通りの進展がみられる．また，ツールボックスの開発など，成果アルゴリズムの利用促進もはかった．さらに，本新学術領域研究・惑星科学班との共同研究も本格的にスタートさせることができた．以上のことから，研究は当初の計画以上に進展していると判断できる．
|
| Strategy for Future Research Activity |
計画の3課題に関しては，予定通り遂行していく．特に，セミパラメトリック状態空間モデルのパラメータ推定に関しては，有望なアイデアがあるため，これを検証して発展させる予定である．また，カーネルベイズ則に関連して擬モンテカルロ法への展開も行っていきたい．
第4課題として追加したスパース・シミュレーションによるセミパラメトリック推論に関しては，本領域内の地球科学班，惑星科学班と共同研究を行い，有効なアルゴリズムを確立し，実際のデータ解析に有効な方法を提供する計画である．
|
-
-
-
-
-
[Journal Article] Kernel Mean Shrinkage Estimators2016
Author(s)
Krikamol Muandet, Bharath Sriperumbudur, Kenji Fukumizu, Arthur Gretton, Bernhard Schölkopf
-
Journal Title
Journal of Machine Learning Research
Volume: 17(48)
Pages: 1-41
Peer Reviewed / Open Access / Int'l Joint Research / Acknowledgement Compliant
-
-
-
[Journal Article] The Nonparametric Kernel Bayes Smoother2016
Author(s)
Yu Nishiyama, Amir Hossein Afsharinejad, Shunsuke Naruse, Byron Boots, Le Song
-
Journal Title
Proceedings of the 19th International Conference on Artificial Intelligence and Statistics
Volume: 1
Pages: 547–555
Peer Reviewed / Open Access / Int'l Joint Research
-
-
-
-
-
-
-
-
-
-
-
-
-
[Presentation] Kernel Mean Particle Filter with Intractable Likelihoods2015
Author(s)
Kenji Fukumizu, Motonobu Kanagawa, and Yoshimasa Uematsu
Organizer
2015 International Workshop on Spatial and Temporal Modeling from Statistical, Machine Learning and Engineering perspectives (STM2015)
Place of Presentation
東京
Year and Date
2015-07-13 – 2915-07-17
Int'l Joint Research / Invited
-
-
-
