• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2016 Fiscal Year Annual Research Report

セミパラメトリックベイズ推論アプローチによるスパースモデリングの深化と応用

Planned Research

Project AreaInitiative for High-Dimensional Data-Driven Science through Deepening of Sparse Modeling
Project/Area Number 25120012
Research InstitutionThe Institute of Statistical Mathematics

Principal Investigator

福水 健次  統計数理研究所, 数理・推論研究系, 教授 (60311362)

Co-Investigator(Kenkyū-buntansha) 鈴木 大慈  東京工業大学, 情報理工学院, 准教授 (60551372)
西山 悠  電気通信大学, 大学院情報理工学研究科, 助教 (60586395)
Project Period (FY) 2013-06-28 – 2018-03-31
Keywordsスパースモデリング / セミパラメトリック / ベイズ推論 / 最適化 / アルゴリズム
Outline of Annual Research Achievements

【課題1】「カーネル法ベイズ推論の展開」に関しては,カーネル法による疑似モンテカルロ数値計算の理論に関して,被積分関数が想定した関数クラスに属さない場合にも近似精度の収束レートが劣化しないという一般的な結果が得られ,疑似モンテカルロ法の適用時のロバスト性を示す結果が得られた.結果をまとめた論文が機械学習分野のトップ国際会議に採択され発表を行った.
【課題2】「セミパラメトリック状態空間モデル」に関しては,尤度関数が陽にかけない観測モデルを持つ状態空間モデルのパラメータ推定法に関して研究を進め,Maximum mean discrepancy に基づく方法を開発し,適用が可能な場合には同目的の既存方法よりも有望であるとの基礎的な知見を得た.これを基づいて,状態空間モデルのパラメータ推定法を導出した.今後アルゴリズムを実装し,その評価と改良を行う予定である.
【課題3】「セミパラメトリック・スパースモデリング」に関しては,ベイズ推論に基づいて,潜在的な低ランク構造を持つテンソル回帰モデルに対して学習アルゴリズムとその理論解析を行った.成果をまとめた論文が機械学習分野のトップ国際会議に採択され発表を行った.また同様の解析をある種の深層学習モデルに応用し理論解析を行った.
中間評価時に追加した【課題4】「スパースシミュレーション表現によるセミパラメトリック推論」については,状態空間モデルに基づくフィルタリングの方法をスパース化するアルゴリズムを開発した.またその方法を地球科学班および公募班の携わるプレート滑りの推定問題への適用を試みた.

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

当初計画に含まれていた3課題は予定以上に進展し,多くの成果が得られ論文として発表することができたため,中間評価時に第4の課題を追加した.

Strategy for Future Research Activity

平成29年度は本研究計画の最終年度に当たるため,計画研究内の4課題に加えて,惑星科学班,地球科学班との共同研究に注力していく予定である.

  • Research Products

    (17 results)

All 2017 2016 Other

All Int'l Joint Research (2 results) Journal Article (7 results) (of which Int'l Joint Research: 2 results,  Peer Reviewed: 6 results,  Open Access: 6 results,  Acknowledgement Compliant: 4 results) Presentation (7 results) (of which Int'l Joint Research: 5 results,  Invited: 3 results) Remarks (1 results)

  • [Int'l Joint Research] University of College London/University of Oxford(英国)

    • Country Name
      UNITED KINGDOM
    • Counterpart Institution
      University of College London/University of Oxford
  • [Int'l Joint Research] Pennsylvania State University(米国)

    • Country Name
      U.S.A.
    • Counterpart Institution
      Pennsylvania State University
  • [Journal Article] Learning sparse structural changes in high-dimensional Markov networks2017

    • Author(s)
      Song Liu, Kenji Fukumizu, and Taiji Suzuki
    • Journal Title

      Behaviormetrika

      Volume: 44(1) Pages: 265-286

    • DOI

      doi:10.1007/s41237-017-0014-z

    • Peer Reviewed / Open Access / Acknowledgement Compliant
  • [Journal Article] Unsupervised group matching with application to cross-lingual topic matching without alignment information2017

    • Author(s)
      Tomoharu Iwata, Motonobu Kanagawa, Tsutomu Hirao, Kenji Fukumizu
    • Journal Title

      Data Mining and Knowledge Discovery

      Volume: 31 Pages: 350-370

    • DOI

      10.1007/s10618-016-0470-1

    • Peer Reviewed / Open Access
  • [Journal Article] Characteristic Kernels and Infinitely Divisible Distributions2016

    • Author(s)
      Yu Nishiyama, Kenji Fukumizu
    • Journal Title

      Journal of Machine Learning Research

      Volume: 17(180) Pages: 1-28

  • [Journal Article] Convergence guarantees for kernel-based quadrature rules in misspecified settings2016

    • Author(s)
      Motonobu Kanagawa, Barath K. Sriperumbudur, Kenji Fukumizu
    • Journal Title

      Advances in Neural Information Processing Systems

      Volume: 30 Pages: 3288-3296

    • Peer Reviewed / Open Access / Int'l Joint Research / Acknowledgement Compliant
  • [Journal Article] Kernel Mean Shrinkage Estimators2016

    • Author(s)
      Krikamol Muandet, Bharath Sriperumbudur, Kenji Fukumzu, Arthur Gretton, Bernhard Schoelkopf
    • Journal Title

      Journal of Machine Learning Research

      Volume: 17(48): Pages: 1-41

    • Peer Reviewed / Open Access / Int'l Joint Research / Acknowledgement Compliant
  • [Journal Article] Structure Learning of Partitioned Markov Networks2016

    • Author(s)
      Song Liu, Taiji Suzuki , Masashi Sugiyama, Kenji Fukumizu
    • Journal Title

      Proceedings of The 33rd International Conference on Machine Learning

      Volume: - Pages: 439-448

    • Peer Reviewed / Open Access / Acknowledgement Compliant
  • [Journal Article] Gaussian process nonparametric tensor estimator and its minimax optimality2016

    • Author(s)
      Heishiro Kanagawa, Taiji Suzuki, Hayato Kobayashi, Nobuyuki Shimizu, Yukihiro Tagami
    • Journal Title

      Proceedings of The 33rd International Conference on Machine Learning

      Volume: - Pages: 1632-1641

    • Peer Reviewed / Open Access
  • [Presentation] Generalization error bound of Bayesian deep learning: a kernel perspective2017

    • Author(s)
      Taiji Suzuki
    • Organizer
      2017 Probabilistic Graphical Model Workshop: Structure, Sparsity and High-dimensionality
    • Place of Presentation
      東京
    • Year and Date
      2017-02-22 – 2017-02-24
    • Int'l Joint Research / Invited
  • [Presentation] Developments on Learning Changes between Graphical Models2017

    • Author(s)
      Song Liu
    • Organizer
      2017 Probabilistic Graphical Model Workshop: Structure, Sparsity and High-dimensionality
    • Place of Presentation
      東京
    • Year and Date
      2017-02-22 – 2017-02-24
    • Int'l Joint Research
  • [Presentation] Convergence guarantees for kernel-based quadrature rules in misspecified settings2016

    • Author(s)
      Motonobu Kanagawa, Barath K. Sriperumbudur, Kenji Fukumizu
    • Organizer
      Neural Information Processing Systems 30
    • Place of Presentation
      バルセロナ
    • Year and Date
      2016-12-05 – 2016-12-10
    • Int'l Joint Research
  • [Presentation] カーネル法の最前線2016

    • Author(s)
      福水健次
    • Organizer
      第19回情報論的学習理論ワークショップ チュートリアル
    • Place of Presentation
      京都
    • Year and Date
      2016-11-19 – 2016-11-19
    • Invited
  • [Presentation] Partitioned Markov Networks2016

    • Author(s)
      Song Liu, Taiji Suzuki , Masashi Sugiyama, Kenji Fukumizu
    • Organizer
      MIRU2016 第19回画像の認識・理解シンポジウム
    • Place of Presentation
      浜松
    • Year and Date
      2016-08-04 – 2016-08-04
    • Invited
  • [Presentation] Structure Learning of Partitioned Markov Networks2016

    • Author(s)
      Song Liu, Taiji Suzuki , Masashi Sugiyama, Kenji Fukumizu
    • Organizer
      The 33rd International Conference on Machine Learning
    • Place of Presentation
      New York
    • Year and Date
      2016-06-20 – 2016-06-22
    • Int'l Joint Research
  • [Presentation] Gaussian process nonparametric tensor estimator and its minimax optimality2016

    • Author(s)
      Heishiro Kanagawa, Taiji Suzuki, Hayato Kobayashi, Nobuyuki Shimizu, Yukihiro Tagami
    • Organizer
      The 33rd International Conference on Machine Learning
    • Place of Presentation
      New York
    • Year and Date
      2016-06-20 – 2016-06-22
    • Int'l Joint Research
  • [Remarks] http://www.ism.ac.jp/~fukumizu/

URL: 

Published: 2018-01-16  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi