• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2021 Fiscal Year Annual Research Report

Research and development of nonlinear Selective Inference for high-dimensional and small number of samples data

Research Project

Project/Area Number 20H04243
Research InstitutionKyoto University

Principal Investigator

山田 誠  京都大学, 情報学研究科, 准教授 (00581323)

Co-Investigator(Kenkyū-buntansha) 下平 英寿  京都大学, 情報学研究科, 教授 (00290867)
POIGNARD BENJAMIN  大阪大学, 経済学研究科, 講師 (40845252)
Project Period (FY) 2020-04-01 – 2024-03-31
Keywords特徴選択 / 選択的推論 / カーネル法
Outline of Annual Research Achievements

本年度は、研究の目的の一つであった非線形特徴選択手法 HSIC Lassoの選択的推論手法を提案した。HSIC Lassoの拡張に加え、Polyhedral Lemma (Lee et al. Annals of Stats 2016)を拡張し、共分散行列を標本から推定する場合においても検定ができることを示した。 そして、HSIC Lassoに対して、Polyhedral Lemmaを適用することで目的を達成した。さらに提案法をバイオデータ解析に適用し、重要な特徴を提案法を用いて見出すことができることを確認した。本研究成果は、分担者であるBenjamin Poignard氏との共同研究であり、機械学習の国際会議であるICML 2021にて報告した。

Polyhedral Lemmaに基づいた方法に加え、Knockoff filterに基づいた非線形特徴選択手法の枠組みも提案した。本研究では、カーネル法とKnockoff filterを組み合わせた世界初の研究と言える。具体的には、Hilbert-Schmidt Independence Criterion (HSIC), conditional Maximum Mean Discrepancy (cMMD)とKnockoff filterを組み合わせることで、非線形な特徴選択が可能となっている。実用的な貢献に加え、カーネル法を用いて特徴スクリーニングする際に、どれだけの特徴を選択すれば真の特徴をきちんと検出できるかの理論も与えた。本研究成果は、分担者であるBenjamin Poignard氏との共同研究であり、機械学習の国際会議であるAISTATS 2022にて報告した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

研究の一つの目標であった、HSIC Lassoにおける選択的推論の提案については、計画通り進み国際会議にて報告することができた。HSIC Lassoの研究に加え、Knockoff filterを用いた選択的推論の研究も大きく進展し、高次元小標本データから効率よく選択的推論するための方法を複数提案できた。

Strategy for Future Research Activity

HSIC Lassoの選択的推論の方法とKnockoffに基づいた選択的推論の方法をこれまでに提案できたため、今後はこれまでに提案してきた方法を実データに適用することや、検出力の向上を目指す。

  • Research Products

    (11 results)

All 2022 2021 Other

All Int'l Joint Research (3 results) Journal Article (8 results) (of which Int'l Joint Research: 4 results,  Peer Reviewed: 8 results,  Open Access: 8 results)

  • [Int'l Joint Research] University of Technology Sydney(オーストラリア)

    • Country Name
      AUSTRALIA
    • Counterpart Institution
      University of Technology Sydney
  • [Int'l Joint Research] Carnegie Mellon University/Facebook AI Research/University of Texas Austin(米国)

    • Country Name
      U.S.A.
    • Counterpart Institution
      Carnegie Mellon University/Facebook AI Research/University of Texas Austin
    • # of Other Institutions
      1
  • [Int'l Joint Research] University of Cambridge(英国)

    • Country Name
      UNITED KINGDOM
    • Counterpart Institution
      University of Cambridge
  • [Journal Article] Fixed Support Tree-Sliced Wasserstein Barycenter2022

    • Author(s)
      Yuki Takezawa, Ryoma Sato, Zornitsa Kozareva, Sujith Ravi, Makoto Yamada
    • Journal Title

      International Conference on Artificial Intelligence and Statistics (AISTATS)

      Volume: - Pages: -

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Feature Screening with Kernel Knockoff2022

    • Author(s)
      Benjamin Poignard, Peter Naylor, Hector Climente, Makoto Yamada
    • Journal Title

      International Conference on Artificial Intelligence and Statistics (AISTATS)

      Volume: - Pages: -

    • Peer Reviewed / Open Access
  • [Journal Article] Post-selection inference with HSIC-Lasso2021

    • Author(s)
      Tobias Freidling, Benjamin Poignard, Hector Climente-Gonzalez, Makoto Yamada
    • Journal Title

      International Conference on Machine Learning (ICML)

      Volume: - Pages: 3439-3448

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Supervised Tree-Wasserstein Distance2021

    • Author(s)
      Yuki Takezawa, Ryoma Sato, Makoto Yamada
    • Journal Title

      International Conference on Machine Learning (ICML)

      Volume: - Pages: 10086-10095

    • Peer Reviewed / Open Access
  • [Journal Article] LSMI-Sinkhorn: Semi-supervised Mutual Information Estimation with Optimal Transport2021

    • Author(s)
      Yanbin Liu, Makoto Yamada, Yao-Hung Hubert Tsai, Tam Le, Ruslan Salakhutdinov, Yi Yang
    • Journal Title

      European Conference on Machine Learning (ECML)

      Volume: - Pages: 655-670

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Random Features Strengthen Graph Neural Networks2021

    • Author(s)
      Ryoma Sato, Makoto Yamada, Hisashi Kashima
    • Journal Title

      SIAM data mining (SDM)

      Volume: - Pages: 333-341

    • Peer Reviewed / Open Access
  • [Journal Article] Dynamic Sasvi: Strong Safe Screening for Norm-Regularized Least Squares2021

    • Author(s)
      Hiroaki Yamada, Makoto Yamada
    • Journal Title

      NeurIPS

      Volume: - Pages: -

    • Peer Reviewed / Open Access
  • [Journal Article] Flow-based Alignment Approaches for Probability Measures in Different Spaces2021

    • Author(s)
      Tam Le, Nhat Ho, Makoto Yamada
    • Journal Title

      International Conference on Artificial Intelligence and Statistics (AISTATS)

      Volume: - Pages: 3934-3942

    • Peer Reviewed / Open Access / Int'l Joint Research

URL: 

Published: 2022-12-28  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi