• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2015 Fiscal Year Research-status Report

確率分布の無限分解可能性とカーネルベイズ推論

Research Project

Project/Area Number 26870821
Research InstitutionThe University of Electro-Communications

Principal Investigator

西山 悠  電気通信大学, その他の研究科, 助教 (60586395)

Project Period (FY) 2014-04-01 – 2017-03-31
Keywordsカーネル法 / カーネル平均 / カーネルベイズ / 無限分解可能分布 / 安定分布 / 一般化双曲系型分布 / Convolution Trick / セミパラメトリックカーネルベイズ
Outline of Annual Research Achievements

機械学習におけるカーネル法では,確率分布の処理にカーネル平均を用いたアルゴリズムが研究されている.カーネル平均は,確率分布の特徴写像による再生核ヒルベルト空間(RKHS)内での平均で定義され,データの特徴量に対して,確率分布の特徴量を考える自然な拡張である.確率分布からカーネル平均への写像が単射となる正定値カーネルを特性的カーネルと呼ぶ.特性的カーネルは,カーネル平均により確率分布を一意に定めることが可能という意味で重要な性質である.カーネル平均表現でベイズ推論を行うカーネルベイズ推論でも,特性的カーネルを使うことを基礎とする.有界連続な対称無限分解可能分布の密度関数から作られる正定値カーネルをConvolutionally Infinitely Divisible (CID)カーネルと呼ぶ.CIDカーネルは特性的カーネルである.本年度はCIDカーネルの(加法,積,畳み込み演算による)閉構造の性質を明らかにする研究を行った.また,2つのRKHS関数f,gが特徴量の線形結合で表されるとき,fとgのRKHS内積はkernel trickにより容易に計算可能であるが,f,gが無限分解可能分布のカーネル平均の線形結合で表される関数形でもRKHS内積計算が可能となるようなconvolution trickの研究を行った.CIDカーネルを持つ畳み込み半群について,convolution trickが成り立つ.これらの数学的事実とともに,状態空間モデルにおけるノンパラメトリックカーネルベイズスムージングアルゴリズムの開発に成功した.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

CIDカーネルの集合について,(加法,積,畳み込み演算による)閉構造の性質を明らかにすることは重要である.Kernel Trickの拡張であるConvolution Trickを明確に与えておくこともカーネル法の基礎として重要である.また状態空間モデルにおけるノンパラメトリックカーネルベイズスムージングアルゴリズムを開発することに成功し,ソフトウェアへの実装も行った.このアルゴリズムは,セミパラメトリックカーネルベイズスムージングアルゴリズムを開発するために足がかりとなり重要である.

Strategy for Future Research Activity

今年度、状態空間モデルにおけるノンパラメトリックカーネルベイズスムージングを開発することに成功したが,新たにパラメトリックモデルと組み合わせるカーネルベイズ則(モデルベースカーネルベイズ則)を提案する研究を行う.これを提案することで様々な条件下でセミパラメトリックカーネルベイズ推論が適用可能となる.カーネルベイズの枠組みを豊富にする研究を行う.状態空間モデルにおけるセミパラメトリックカーネルベイズ推論を提案する.

  • Research Products

    (10 results)

All 2016 2015 Other

All Int'l Joint Research (2 results) Journal Article (1 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 1 results) Presentation (5 results) (of which Int'l Joint Research: 2 results) Remarks (2 results)

  • [Int'l Joint Research] University College London(英国)

    • Country Name
      UNITED KINGDOM
    • Counterpart Institution
      University College London
  • [Int'l Joint Research] Georgia Institute of Technology(米国)

    • Country Name
      U.S.A.
    • Counterpart Institution
      Georgia Institute of Technology
  • [Journal Article] Filtering with State-Observation Examples via Kernel Monte Carlo Filter2016

    • Author(s)
      Motonobu Kanagawa, Yu Nishiyama, Arthur Gretton, and Kenji Fukumizu
    • Journal Title

      Neural Computation

      Volume: 28 Pages: 382-444

    • DOI

      doi: 10.1162/NECO_a_00806

    • Peer Reviewed / Int'l Joint Research
  • [Presentation] Nonparametric Kernel Bayes Smoothing on State Space Models2016

    • Author(s)
      西山悠
    • Organizer
      新学術領域研究「スパースモデリングの深化と高次元データ駆動科学の創成」2015年度公開シンポジウム
    • Place of Presentation
      神戸
    • Year and Date
      2016-03-07 – 2016-03-07
  • [Presentation] kNNを用いたカーネルベイズの計算量削減法の検討2015

    • Author(s)
      苗村智行, 都築俊介, 西山悠
    • Organizer
      第18回情報論的学習理論ワークショップ(IBIS2015)
    • Place of Presentation
      筑波大学,茨城
    • Year and Date
      2015-11-26 – 2015-11-26
  • [Presentation] カーネルベイズスムージングとカーネル平均Toolboxの作成2015

    • Author(s)
      西山悠
    • Organizer
      第25回日本神経回路学会全国大会(JNNS 2015)
    • Place of Presentation
      電気通信大学, 東京
    • Year and Date
      2015-09-04 – 2015-09-04
  • [Presentation] Nonparametric Smoothing on State Space Models with Kernel Mean Embeddings2015

    • Author(s)
      Yu Nishiyama, Amir Hossein Afsharinejad, Shunsuke Naruse, Byron Boots, Le Song
    • Organizer
      STM2015 & CSM2015
    • Place of Presentation
      The Institute of Statistical Mathematics, Tokyo
    • Year and Date
      2015-07-15 – 2015-07-15
    • Int'l Joint Research
  • [Presentation] Nonparametric Smoothing on State Space Models with Kernel Mean Embeddings2015

    • Author(s)
      Yu Nishiyama, Amir Hossein Afsharinejad, Shunsuke Naruse, Byron Boots, Le Song
    • Organizer
      1st Symposium on Intelligent Systems in Science and Industry (SISSI)
    • Place of Presentation
      Max Planck Institute, Tuebingen
    • Year and Date
      2015-07-12 – 2015-07-12
    • Int'l Joint Research
  • [Remarks]

    • URL

      https://sites.google.com/site/ynishiyam/home

  • [Remarks]

    • URL

      http://www.is.uec.ac.jp/staff/list/ss/nishiyama-yu.html

URL: 

Published: 2017-01-06   Modified: 2022-02-03  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi