• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2014 Fiscal Year Annual Research Report

セミパラメトリックベイズ推論アプローチによるスパースモデリングの深化と応用

Planned Research

Project AreaInitiative for High-Dimensional Data-Driven Science through Deepening of Sparse Modeling
Project/Area Number 25120012
Research InstitutionThe Institute of Statistical Mathematics

Principal Investigator

福水 健次  統計数理研究所, 大学共同利用機関等の部局等, 教授 (60311362)

Co-Investigator(Kenkyū-buntansha) 鈴木 大慈  東京工業大学, 情報理工学(系)研究科, 准教授 (60551372)
西山 悠  電気通信大学, その他の研究科, 助教 (60586395)
Project Period (FY) 2013-06-28 – 2018-03-31
Keywordsスパースモデリング / セミパラメトリック / ベイズ推論 / 最適化 / アルゴリズム
Outline of Annual Research Achievements

以下の3点が主要な成果である.
(1)カーネルベイズ推論の枠組に関して,分散,信頼区間を含む広いクラスの統計量が,カーネルベイズ推論が与える重みによる重み付き和によって推定可能であることを理論的に証明し,その収束レートを与えることに成功した.また,Kernel herdingと呼ばれるサンプル点最適化によるデータ圧縮手法が,カーネルベイズ推論の枠組みにおける効率化アルゴリズムとして極めて有効であることを明らかにした.
(2)不明確な観測過程を含むセミパラメトリック状態空間モデルとして,カーネルモンテカルロ(KMC)フィルタ,および厳密積分計算とカーネル法を組み合わせた方法の2つを提案し,ロボット位置推定問題などの実問題によりその有効性を確認した.
(3)構造的正則化の効率的計算方法として,確率的最適化の技法と交互方向乗数法を組み合わせた方法を提案し,その理論的・実験的な有効性を示した.

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

当初計画していた3課題,(1)カーネルベイズ推論の展開 (2)セミパラメトリック状態空間モデル (3)セミパラメトリック・スパースモデリング,のそれぞれに関して計画した課題が達成されていることに加えて,当初の想定であった低ランク近似による計算効率化を超えてKernel Herdingによる非常に有効な計算法が提案できた点,また,自然科学系データへの応用において重要な新しい方向性ととして,スパース・シミュレーション表現によるセミパラメトリック推論を着想している点などを考えると,当初の計画以上に進展しているといえる.

Strategy for Future Research Activity

計画の3課題に関しては,予定通りに遂行していく.さらに,新しい方向性として,スパース・シミュレーション表現によるセミパラメトリック推論を課題として追加し,27年度以降研究を推進していく予定である.

  • Research Products

    (19 results)

All 2015 2014 Other

All Journal Article (8 results) (of which Peer Reviewed: 8 results,  Open Access: 7 results,  Acknowledgement Compliant: 4 results) Presentation (10 results) (of which Invited: 7 results) Remarks (1 results)

  • [Journal Article] Kernel-Based Information Criterion2015

    • Author(s)
      Somayeh Danafar, Kenji Fukumizu, Faustino Gomez
    • Journal Title

      Computer and Information Science

      Volume: 8 Pages: 10-24

    • DOI

      10.5539/cis.v8n1p10

    • Peer Reviewed / Open Access / Acknowledgement Compliant
  • [Journal Article] A Consistent Method for Graph Based Anomaly Localization2015

    • Author(s)
      Satoshi Hara, Tetsuro Morimura, Toshihiro Takahashi, Hiroki Yanagisawa, Taiji Suzuki
    • Journal Title

      Journal of Machine Learning Research, Workshop & Conference Proceedings (ICML2014)

      Volume: 38 Pages: 333-341

    • Peer Reviewed / Open Access
  • [Journal Article] Output Kernel Learning Methods2014

    • Author(s)
      Francesco Dinuzzo, Cheng Soon Ong, Kenji Fukumizu
    • Journal Title

      Regularization, Optimization, Kernels, and Support Vector Machines

      Volume: 1 Pages: 359-370

    • Peer Reviewed
  • [Journal Article] Monte Carlo Filtering using Kernel Embedding of Distribution2014

    • Author(s)
      M. Kanagawa, Y. Nishiyama, A. Gretton, and K. Fukumizu
    • Journal Title

      Proceedings of the 29th AAAI Conference on Artificial Intelligence

      Volume: 1 Pages: 1897-1903

    • Peer Reviewed / Open Access / Acknowledgement Compliant
  • [Journal Article] Kernel Mean Estimation and Stein Effect2014

    • Author(s)
      Krikamol Muandet, Kenji Fukumizu, Bharath Sriperumbudur, Arthur Gretton, Bernhard Schoelkopf
    • Journal Title

      Journal of Machine Learning Research, Workshop & Conference Proceedings (ICML2014)

      Volume: 32 Pages: 10-18

    • Peer Reviewed / Open Access / Acknowledgement Compliant
  • [Journal Article] Recovering Distributions from Gaussian RKHS Embeddings2014

    • Author(s)
      Motonobu Kanagawa and Kenji Fukumizu
    • Journal Title

      Journal of Machine Learning Research, Workshop & Conference Proceedings (AISTATS 2014)

      Volume: 33 Pages: 457-465

    • Peer Reviewed / Open Access / Acknowledgement Compliant
  • [Journal Article] Support Consistency of Direct Sparse-Change Learning in Markov Networks2014

    • Author(s)
      Song Liu, Taiji Suzuki, and Masashi Sugiyama
    • Journal Title

      The Twenty-Ninth AAAI Conference on Artificial Intelligence (AAAI2015)

      Volume: 1 Pages: 2785-2791

    • Peer Reviewed / Open Access
  • [Journal Article] Stochastic Dual Coordinate Ascent with Alternating Direction Method of Multipliers2014

    • Author(s)
      Taiji Suzuki
    • Journal Title

      Journal of Machine Learning Research, Workshop and Conference Proceedings

      Volume: 32 Pages: 736-744

    • Peer Reviewed / Open Access
  • [Presentation] Statistical Machine Learning in the Era of Data2015

    • Author(s)
      Kenji Fukumizu
    • Organizer
      UK-Japan Big Data Workshop
    • Place of Presentation
      Tokyo
    • Year and Date
      2015-02-26 – 2015-02-26
    • Invited
  • [Presentation] セミパラメトリック推論とスパースモデリング2014

    • Author(s)
      福水健次
    • Organizer
      新学術領域研究「スパースモデリングの深化と高次元データ駆動科学の創成」2014年度公開シンポジウム
    • Place of Presentation
      東京工業大学(すずかけ台)
    • Year and Date
      2014-12-15 – 2014-12-17
    • Invited
  • [Presentation] Model-based Kernel Sum Rule with Applications to State Space Models2014

    • Author(s)
      Yu Nishiyama, Motonobu Kanagawa, Arthur Gretton, Kenji Fukumizu
    • Organizer
      Neural Information Processing Systems (NIPS) Workshop
    • Place of Presentation
      Montreal, Canada
    • Year and Date
      2014-12-12 – 2014-12-12
  • [Presentation] Score Matching Estimation with Infinite Dimensional Exponential Family2014

    • Author(s)
      Kenji Fukumizu
    • Organizer
      Coop-Math Workshop: Information Geometry for Machine Learning
    • Place of Presentation
      理研(和光)
    • Year and Date
      2014-12-03 – 2014-12-05
  • [Presentation] カーネル法とスパースモデリング ~ カーネル法によるセミパラメトリック推論 ~2014

    • Author(s)
      福水健次
    • Organizer
      研究集会「地球科学と疎性モデリング」
    • Place of Presentation
      東大
    • Year and Date
      2014-11-14 – 2014-11-14
    • Invited
  • [Presentation] 正定値カーネルを用いた条件付き確率密度推定2014

    • Author(s)
      金川元信,鈴木大慈,福水健次
    • Organizer
      統計関連学会連合大会
    • Place of Presentation
      東京
    • Year and Date
      2014-09-14 – 2014-09-14
  • [Presentation] カーネル法と確率分布の無限分解可能性2014

    • Author(s)
      西山悠
    • Organizer
      日本応用数理学会 2014年度年会
    • Place of Presentation
      政策研究大学院大学
    • Year and Date
      2014-09-05 – 2014-09-05
    • Invited
  • [Presentation] Monte Carlo Filter with Kernel Mean Embedding2014

    • Author(s)
      Kenji Fukumizu
    • Organizer
      International Workshop on Spatial and Temporal Modeling from Statistical, Machine Learning and Engineering perspectives (STM2014)
    • Place of Presentation
      Tokyo
    • Year and Date
      2014-07-28 – 2014-07-29
    • Invited
  • [Presentation] Risk Bounds of Convex and Bayes Tensor Estimators: Near Optimal Rate without Strong Convexity2014

    • Author(s)
      Taiji Suzuki
    • Organizer
      International Workshop on Spatial and Temporal Modeling from Statistical, Machine Learning and Engineering perspectives (STM2014)
    • Place of Presentation
      Tokyo
    • Year and Date
      2014-07-28 – 2014-07-29
    • Invited
  • [Presentation] Measuring Dependence and Conditional Dependence with Kernels2014

    • Author(s)
      Kenji Fukumizu
    • Organizer
      International Conf. Machine Learning 2014, Causality Workshop
    • Place of Presentation
      Beijing
    • Year and Date
      2014-06-25 – 2014-06-26
    • Invited
  • [Remarks] 「スパースモデリングの深化と高次元データ駆動科学の創成」セミパラメトリックベイズ班

    • URL

      http://sparse-modeling.jp/program/C01-2.html

URL: 

Published: 2016-06-01  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi