• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2013 年度 実績報告書

セミパラメトリックベイズ推論アプローチによるスパースモデリングの深化と応用

計画研究

研究領域スパースモデリングの深化と高次元データ駆動科学の創成
研究課題/領域番号 25120012
研究種目

新学術領域研究(研究領域提案型)

研究機関統計数理研究所

研究代表者

福水 健次  統計数理研究所, 大学共同利用機関等の部局等, 教授 (60311362)

研究分担者 鈴木 大慈  東京工業大学, 情報理工学(系)研究科, 准教授 (60551372)
冨岡 亮太  東京大学, 情報理工学(系)研究科, 助教 (70518282)
研究期間 (年度) 2013-06-28 – 2018-03-31
キーワードスパースモデリング / セミパラメトリック / ベイズ推論 / 最適化 / アルゴリズム
研究概要

【課題1】「カーネルベイズ推論の展開」に関しては、本研究全体の推進に必要な理論基盤を整備するために,カーネルによる分布埋め込み表現の推定量から,広い関数クラスの期待値を推定するための方法とその収束性を理論的に研究した.その結果,ベイズ推論において重要なモーメントや信頼区間を推定がカーネルベイズ法の枠組みで可能となり,適用範囲が大きく広がった.この成果は機械学習分野のトップ国際会議AISTATS2014に採択されている.また,条件付き確率密度関数のカーネルによる推定法に関して基礎的な検討を行った.
【課題2】「セミパラメトリック状態空間モデル」に関しては,状態遷移則を既知とした場合のセミパラメトリック状態空間モデルに対し,サンプリング法との融合によるフィルタリングの方法を提案した.完全にノンパラメトリックな推定を行う従来のカーネル法に比べ,既知の確率モデルを有効に使うことができ,推定精度が大きく改善されることが明らかとなった.この成果は人工知能分野のトップ国際会議AAAI2014に採択されている.また,同じく状態遷移則が既知の場合に,カーネル法と厳密積分計算とを融合させる方法を提案し,それが可能となる条件に関して理論的検討を行い,成果を論文として投稿した.
【課題3】「セミパラメトリック・スパースモデリング」に関しては,条件付き確率にパラメトリックモデルを仮定しないセミパラメトリックな状況でスパース変数選択を行う方法について研究し,その最適化手法として交互方向乗数法(ADMM)に基づく方法を検討した.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

3つの課題それぞれに関して,ほぼ計画に沿った研究成果が出ており,国際会議における発表や,論文誌への投稿も順調に行われている.このことから,研究はおおむね順調に進展していると判断できる.

今後の研究の推進方策

平成26年4月より博士研究員1名を雇用する予定であったが,適切な人材が見つからなかったため,雇用開始が少し遅れる予定である.現在,課題3に関連した有力な候補者と交渉中であり,なるべく早く雇用を行い,研究のさらなる推進をはかりたい.
また,新学術計画研究の他グループ(A班,B班)との共同研究に関しては,平成25年度にすでに議論を進めてきたが,今後さらに議論を深め,具体的な成果に結び付けていきたい.

  • 研究成果

    (18件)

すべて 2014 2013 その他

すべて 雑誌論文 (7件) (うち査読あり 6件) 学会発表 (8件) (うち招待講演 3件) 図書 (1件) 備考 (2件)

  • [雑誌論文] Gradient-based kernel dimension reduction for regression2014

    • 著者名/発表者名
      Fukumizu, K. and Chenlei, L.
    • 雑誌名

      Journal of the American Statistical Association

      巻: 109(505) ページ: 359-370

    • DOI

      10.1080/01621459.2013.838167

    • 査読あり
  • [雑誌論文] Recovering Distributions from Gaussian RKHS Embeddings2014

    • 著者名/発表者名
      Kanagawa, M. and Fukumizu, K.
    • 雑誌名

      Journal of Machine Learning Research, W&CP (Proc. AISTATS 2014)

      巻: 33 ページ: 457-465

    • 査読あり
  • [雑誌論文] Ryota Tomioka, and Taiji Suzuki: Convex Tensor Decomposition via Structured Schatten Norm Regularization.2014

    • 著者名/発表者名
      Tomioka, R. and Suzuki, T.
    • 雑誌名

      Advances in Neural Information Processing Systems

      巻: 26 ページ: 1331-1339

    • 査読あり
  • [雑誌論文] Hyperparameter Selection in Kernel Principal Component Analysis.2014

    • 著者名/発表者名
      Alam, A. MD and Fukumizu, K.
    • 雑誌名

      Journal of Computer Science

      巻: 10(7) ページ: 1139-1150

    • DOI

      10.3844/jcssp.2014.1139.1150

    • 査読あり
  • [雑誌論文] (2013) Kernel Bayes' Rule: Bayesian Inference with Positive Definite Kernels2013

    • 著者名/発表者名
      Fukumizu, K., Song, L. and Gretton, A.
    • 雑誌名

      Journal of Machine Learning Research

      巻: 14 ページ: 3753-3783.

    • 査読あり
  • [雑誌論文] Sejdinovic, D., Sriperumbudur, B., Gretton, A. and Fukumizu, K.2013

    • 著者名/発表者名
      4. Equivalence of distance-based and RKHS-based statistics in hypothesis testing
    • 雑誌名

      Annals of Statistics

      巻: 41(5) ページ: 2263-2702

    • 査読あり
  • [雑誌論文] カーネル平均埋め込みによる分布統計量の計算 ~ 密度関数,信頼区間,モーメント推定への応用 ~2013

    • 著者名/発表者名
      金川元信, 福水健次
    • 雑誌名

      電子情報通信学会技術報告

      巻: IBISML 113(286) ページ: 147-154

  • [学会発表] カーネル法によるノンパラメトリックなベイズ推論2014

    • 著者名/発表者名
      福水健次
    • 学会等名
      研究会:神経科学と統計科学の対話 4
    • 発表場所
      東京
    • 年月日
      20140317-20140319
    • 招待講演
  • [学会発表] マルチプルカーネル学習とスパース推定の統計的性質2014

    • 著者名/発表者名
      鈴木大慈
    • 学会等名
      日本数学会年会
    • 発表場所
      東京
    • 年月日
      20140315-20140318
    • 招待講演
  • [学会発表] Nonparametric Bayesian Inference with Positive Definite Kernels,2014

    • 著者名/発表者名
      Fukumizu, K.
    • 学会等名
      Workshop on Mathematical Approaches to Large-Dimensional Data Analysis
    • 発表場所
      東京
    • 年月日
      20140313-20140315
  • [学会発表] Stochastic Dual Coordinate Ascent with Alternating Direction Method of Multipliers.2013

    • 著者名/発表者名
      Suzuki, T.
    • 学会等名
      OPT2013, NIPS workshop "Optimization for Machine Learning
    • 発表場所
      Lake Tahoe, USA
    • 年月日
      20131209-20131210
  • [学会発表] Higher-order Regularized Kernel CCA,2013

    • 著者名/発表者名
      Alam,MD, A. and Fukumizu, K.
    • 学会等名
      The 12th International Conference on Machine Learning and Applications (ICMLA'13)
    • 発表場所
      Florida, USA
    • 年月日
      20131204-20131207
  • [学会発表] カーネル平均埋め込みによる分布統計量の計算 ~ 密度関数,信頼区間,モーメント推定への応用 ~2013

    • 著者名/発表者名
      金川元信, 福水健次
    • 学会等名
      第16回情報論的学習理論ワークショップ
    • 発表場所
      東京
    • 年月日
      20131110-20131113
  • [学会発表] 無限分解可能分布におけるカーネル平均の検討2013

    • 著者名/発表者名
      西山悠, 福水健次
    • 学会等名
      第16回情報論的学習理論ワークショップ
    • 発表場所
      東京
    • 年月日
      20131110-20131113
  • [学会発表] Dual Averaging and Proximal Gradient Descent for Online Alternating Direction Multiplier Method2013

    • 著者名/発表者名
      Suzuki, T.
    • 学会等名
      The Sixth Workshop on Information Theoretic Methods in Science and Engineering (WITMSE2013).
    • 発表場所
      東京
    • 年月日
      20130826-20130829
    • 招待講演
  • [図書] ビッグデータ・マネジメント-データサイエンティストのためのデータ利活用技術と事例2013

    • 著者名/発表者名
      嶋田茂,伊藤大雄,坂本 比呂志,當仲寛哲,鷲尾隆,上田修功,杉山将,鹿島久嗣,鈴木大慈,河原大輔,黒橋禎夫,関根聡,西尾信彦,稲越宏弥,ほか計36名
    • 総ページ数
      329
    • 出版者
      株式会社エヌ・ティー・エス
  • [備考] Kenji Fukumizu's Home Page

    • URL

      http://www.ism.ac.jp/~fukumizu/

  • [備考] スパースモデリングの深化と高次元データ駆動科学の創成

    • URL

      http://sparse-modeling.jp/

URL: 

公開日: 2015-05-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi