• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Kernel principal component analysis in high dimension, low sample size and its applications

Research Project

Project/Area Number 19J10175
Research Category

Grant-in-Aid for JSPS Fellows

Allocation TypeSingle-year Grants
Section国内
Review Section Basic Section 12040:Applied mathematics and statistics-related
Research InstitutionUniversity of Tsukuba

Principal Investigator

中山 優吾  筑波大学, 数理物質科学研究科, 特別研究員(DC2)

Project Period (FY) 2019-04-25 – 2021-03-31
Project Status Declined (Fiscal Year 2020)
Budget Amount *help
¥1,700,000 (Direct Cost: ¥1,700,000)
Fiscal Year 2020: ¥800,000 (Direct Cost: ¥800,000)
Fiscal Year 2019: ¥900,000 (Direct Cost: ¥900,000)
Keywords高次元データ / 統計数学 / 高次元漸近理論 / 機械学習 / カーネル法
Outline of Research at the Start

本研究は、機械学習でよく知られる非線形な次元圧縮手法であるカーネル主成分分析の高次元における漸近的性質を与えることで、高次元データの非線形構造を明らかにすることを目的とする。研究内容は次の2つである。(1) カーネル主成分スコアによるクラスタリング。(2)カーネル主成分分析の漸近的性質と次元圧縮の応用。いずれの研究においても、カーネル関数に対する漸近的性質を与え、カーネル関数に含まれるパラメータの事前決定方法を提案することを目指す。

Outline of Annual Research Achievements

カーネル主成分分析は非線形性を抽出するための次元圧縮手法として広く知られている。本研究では高次元データの非線形構造を調査するために、高次元小標本におけるカーネル主成分分析を調査した。高次元小標本におけるカーネル法は明らかにされていない性質が多々あり、本研究はそれらの性質を与える先駆的結果である。本研究ではカーネル主成分分析の応用法としてクラスタリングについて調査した。カーネル主成分スコアの漸近的性質を与えることで2つのクラスタを完全に分離するための正則条件を導出し、クラスタリング手法を提案した。特に、線形カーネルとしばしば使われるガウシアンカーネルを使った場合の正則条件を比較することで非線形性に関する理論的な比較を与えた。クラスタリングの性能はガウシアンカーネルに含まれる尺度パラメータに強く依存し,選択次第でクラスタリングの精度は悪くなってしまう。そこで、尺度パラメータの事前選択法も提案した。計算コストが膨大な高次元データ解析において、この提案手法は理論的かつ高速な選択法である。ここまでの結果を、クラスタ数が3個あるカーネル関数族に対する一般化を行なった。本研究で用いた解析方法はカーネル法を用いる他の手法への応用も期待できる。本研究の結果を与える上で重要となる線形性やカーネル条件に関する研究も2本の査読あり論文の掲載が決定している。筑波大学の青嶋教授と矢田准教授との共同研究はABRAHAM WALD PRIZE in Sequential Analysis 2019で共同受賞している。

Research Progress Status

翌年度、交付申請を辞退するため、記入しない。

Strategy for Future Research Activity

翌年度、交付申請を辞退するため、記入しない。

Report

(1 results)
  • 2019 Annual Research Report
  • Research Products

    (7 results)

All 2019

All Journal Article (2 results) (of which Peer Reviewed: 2 results,  Open Access: 1 results) Presentation (5 results) (of which Int'l Joint Research: 1 results)

  • [Journal Article] Robust support vector machine for high-dimensional imbalanced data2019

    • Author(s)
      Nakayama Yugo
    • Journal Title

      Communications in Statistics - Simulation and Computation

      Volume: - Issue: 5 Pages: 1-17

    • DOI

      10.1080/03610918.2019.1586922

    • Related Report
      2019 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Bias-corrected support vector machine with Gaussian kernel in high-dimension, low-sample-size settings2019

    • Author(s)
      Nakayama Yugo、Yata Kazuyoshi、Aoshima Makoto
    • Journal Title

      Annals of the Institute of Statistical Mathematics

      Volume: - Issue: 5 Pages: 1-30

    • DOI

      10.1007/s10463-019-00727-1

    • Related Report
      2019 Annual Research Report
    • Peer Reviewed / Open Access
  • [Presentation] Asymptotic properties of kernel PCA with Gaussian kernel for high-dimensional data2019

    • Author(s)
      中山優吾, 矢田和善, 青嶋誠
    • Organizer
      日本学術振興会科学研究費による研究集会「統計学と機械学習の数理と展開」
    • Related Report
      2019 Annual Research Report
  • [Presentation] Support vector machine and optimal choice of parameters for high-dimensional imbalanced data2019

    • Author(s)
      中山優吾
    • Organizer
      日本学術振興会科学研究費による研究集会「多様な分野における統計科学に関する諸問題」
    • Related Report
      2019 Annual Research Report
  • [Presentation] カーネル主成分分析に基づく高次元データのクラスタリングとチューニング2019

    • Author(s)
      中山優吾, 矢田和善, 青嶋誠
    • Organizer
      2019年度統計関連学会連合大会
    • Related Report
      2019 Annual Research Report
  • [Presentation] Robust support vector machine in the HDLSS context2019

    • Author(s)
      中山優吾
    • Organizer
      応用統計学会2019年度年会
    • Related Report
      2019 Annual Research Report
  • [Presentation] Bias corrected SVM with the Gaussian kernel in the HDLSS context2019

    • Author(s)
      Yugo Nakayama, Kazuyoshi Yata, Makoto Aoshima
    • Organizer
      The 3rd International Conference on Econometrics and Statistics
    • Related Report
      2019 Annual Research Report
    • Int'l Joint Research

URL: 

Published: 2019-05-29   Modified: 2024-03-26  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi