• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2017 Fiscal Year Annual Research Report

内在的構造を持つ大規模高次元データ解析の理論と方法

Research Project

Project/Area Number 26280009
Research InstitutionThe Institute of Statistical Mathematics

Principal Investigator

福水 健次  統計数理研究所, 数理・推論研究系, 教授 (60311362)

Co-Investigator(Kenkyū-buntansha) 鈴木 大慈  東京大学, 大学院情報理工学系研究科, 准教授 (60551372)
小林 景  慶應義塾大学, 理工学部(矢上), 准教授 (90465922)
Project Period (FY) 2014-04-01 – 2019-03-31
Keywords統計数学 / データ解析 / 高次元 / アルゴリズム
Outline of Annual Research Achievements

H29年度はカーネル法の効率的計算アルゴリズムの課題を中心に研究を遂行した.まず,カーネル法を用いた分布間の距離尺度としてよく用いられる Maximum Mean Discrepancy (MMD)の効率的計算に関して研究を行った.MMDの計算は,そのまま実行するとサンプル数 n に対して O(n^2) の計算量がかかるため大規模なデータに使うことが難しい.これに対し,MMDをU統計量として表現して,データからのランダムサンプリングを行う不完全U統計量の計算を行うと,計算量が削減されるだけでなく,分布の均一性検定の帰無分布が漸近正規性を満たすという非常に良いよい性質を持つことが分かった.この結果に基づいて,MMDの効率計算を従来から研究を行っていた事後選択推論(Post Selection Inference)に応用した論文をまとめて投稿準備を行っている.
また,カーネル法を用いた自然言語処理における共起尺度に関して共同研究を行い,低ランク近似の方法を用いることによって比較的少ない計算量で尺度を構築することが可能で,巨大なコーパスからでも学習が可能であることを示した.
さらに,カーネル法による分布埋め込みに関するサーベイ論文を出版した.このトピックは本課題においても大きな役割を果たす技術であるが,まとまって書かれた教科書などは存在していなかった.本サーベイ論文は技術を普及するうえで重量な役割を持つと考える.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

カーネル法の効率的な計算法に関して,ランダムサンプリングによる不完全U統計量の利用が良好な性質を持つことが確認でき,新たな方向性が見いだされた点で,十分な進展があったと考える.
また,review論文の採択や,難関国際会議における論文採択などもあることから,研究の進捗は順調であると判断できる.

Strategy for Future Research Activity

H30年度は本課題の最終年度に当たる.提案時に課題として掲げた3つのうち,ハブ現象に関わる研究に関してまとめて論文投稿に結び付けたいと考えている.
また,ランダム特徴選択などの方法の研究を通して,,カーネル法と深層学習の関連に関して新しい方向性を見出していきたいと考えている.

Causes of Carryover

所属機関の特任教員の転出によって運営費交付金による人件費に剰余が生じたため,出張旅費および技術補佐員の人件費を所属機関の運営費交付金から支出した.その結果,本科研費で計画していた旅費・人件費費に未使用分が発生した.
研究が順調に進んだことによって国際会議における発表件数が予定より増加する見込みのため,未使用分は,その海外出張旅費に充当する計画である.

  • Research Products

    (10 results)

All 2018 2017 Other

All Int'l Joint Research (3 results) Journal Article (3 results) (of which Int'l Joint Research: 2 results,  Peer Reviewed: 3 results,  Open Access: 3 results) Presentation (3 results) (of which Int'l Joint Research: 1 results,  Invited: 2 results) Remarks (1 results)

  • [Int'l Joint Research] University College London/Oxford University(英国)

    • Country Name
      UNITED KINGDOM
    • Counterpart Institution
      University College London/Oxford University
  • [Int'l Joint Research] Pennsylvania State University(米国)

    • Country Name
      U.S.A.
    • Counterpart Institution
      Pennsylvania State University
  • [Int'l Joint Research] Mahidol University(タイ)

    • Country Name
      THAILAND
    • Counterpart Institution
      Mahidol University
  • [Journal Article] Post Selection Inference with Kernels2018

    • Author(s)
      Makoto Yamada, Yuta Umezu, Kenji Fukumizu, and Ichiro Takeuchi
    • Journal Title

      Proceedings of Machine Learning Research: AISTATS 2018

      Volume: 84 Pages: 152-160

    • Peer Reviewed / Open Access
  • [Journal Article] Kernel Mean Embedding of Distributions: A Review and Beyond2017

    • Author(s)
      Krikamol Muandet, Kenji Fukumizu, Bharath K. Sriperumbudur, Bernhard Schoelkopf
    • Journal Title

      Foundations and Trends in Machine Learning

      Volume: 10 Pages: 1-141

    • DOI

      10.1561/2200000060

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Density Estimation in Infinite Dimensional Exponential Families2017

    • Author(s)
      Bharath Sriperumbudur, Kenji Fukumizu, Arthur Gretton, Aapo Hyvarinen, Revant Kumar
    • Journal Title

      Journal of Machine Learning Research

      Volume: 18(57) Pages: 1-59

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Presentation] カーネル法に基づく疎な言語表現のための共起尺度2018

    • Author(s)
      横井祥, 小林颯介 , 福水健次, 乾健太郎
    • Organizer
      言語処理学会第24回年次大会
  • [Presentation] データ構造を解明する機械学習アプローチ --グラフ構造、幾何構造--2017

    • Author(s)
      福水健次
    • Organizer
      第3回WIRPワークショップ
    • Invited
  • [Presentation] Local minima and saddle points in hierarchical structure of neural networks2017

    • Author(s)
      Kenji Fukumizu
    • Organizer
      Deep Learning: Theory, Algorithms, and Applications
    • Int'l Joint Research / Invited
  • [Remarks]

    • URL

      http://www.ism.ac.jp/~fukumizu/

URL: 

Published: 2018-12-17   Modified: 2022-02-22  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi