• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

カーネルヒルベルト空間を用いたセミパラメトリック法とその高次元データ解析への応用

Research Project

Project/Area Number 15700241
Research Category

Grant-in-Aid for Young Scientists (B)

Allocation TypeSingle-year Grants
Research Field Statistical science
Research InstitutionThe Institute of Statistical Mathematics

Principal Investigator

福水 健次  統計数理研究所, モデリング研究系, 助教授 (60311362)

Project Period (FY) 2003 – 2005
Project Status Completed (Fiscal Year 2005)
Budget Amount *help
¥2,400,000 (Direct Cost: ¥2,400,000)
Fiscal Year 2005: ¥600,000 (Direct Cost: ¥600,000)
Fiscal Year 2004: ¥700,000 (Direct Cost: ¥700,000)
Fiscal Year 2003: ¥1,100,000 (Direct Cost: ¥1,100,000)
Keywords統計的データ解析 / セミパラメトリック / カーネル法 / ヒルベルト空間 / 次元削減 / 特徴抽出 / 変数選択
Research Abstract

本研究は、正規性などの単純な分布の仮定をおかずに高次元データを統計的に解析する手法を確立することを目的としており、そのために変数間の統計的依存性をカーネルヒルベルト空間によって抽出するという、新しいアプローチを探求している。3年間の最終年度にあたる平成17年度は、以下に挙げるように、成果を論文としてまとめるとともに、今後の発展へとつながる新たな方法の基礎的検討を完了した。
1.16年度に提案を行った次元削減・変数選択の手法の改良版アルゴリズムに対して、その理論的な解析を行い、統計的な収束性が保障されることを証明した。この結果は論文として投稿予定である。また、アルゴリズムを実現するソフトウエアを作成し、小修正のうえ公開予定である。
2.16年度に提案を行った、ヒストグラムによって表現されるようなデータ間の類似度を測るためのカーネルに対して、理論的な考察を加え、論文誌に発表した。
3.有限サンプルに基づいた作用素の推定量の収束性に関する理論的成果に基づき、変数間の依存関係を抽出する方法であるカーネル正準相関分析の統計的な収束性を証明した。この成果は国際会議での発表などで評価を得ており、論文誌に投稿予定である。
4.カーネル法による特徴抽出を行うことにより、グラフなどの構造化されたデータを処理するための新しい方法に関して検討を行い、小規模な問題において良好な成果を得た。
5.カーネルヒルベルト空間を用いた無限次元指数分布族の構成法を提案し、従来の構成法では不可能であった、無限次元指数分布族を用いたサンプルによる推定問題に適用可能であることを示した。この成果について、情報幾何に関する国際会議において発表を行った。

Report

(3 results)
  • 2005 Annual Research Report
  • 2004 Annual Research Report
  • 2003 Annual Research Report
  • Research Products

    (18 results)

All 2006 2005 2004 Other

All Journal Article (10 results) Book (2 results) Publications (6 results)

  • [Journal Article] Infinite dimensional exponential families by reproducing kernel Hilbert spaces2006

    • Author(s)
      Kenji Fukumizu
    • Journal Title

      Proceedings of the Second International Symposium on Information Geometry and its Applications

      Pages: 324-333

    • Related Report
      2005 Annual Research Report
  • [Journal Article] 正定値カーネルによる回帰問題における次元削減法2006

    • Author(s)
      福水 健次
    • Journal Title

      統計数理 53・2

      Pages: 189-200

    • NAID

      120006019087

    • Related Report
      2005 Annual Research Report
  • [Journal Article] Semigroup kernels on measures2005

    • Author(s)
      Marco Cuturi
    • Journal Title

      Journal of Machine Learning Research 6

      Pages: 1169-1198

    • Related Report
      2005 Annual Research Report
  • [Journal Article] カーネル正準相関分析の一致性2005

    • Author(s)
      福水 健次
    • Journal Title

      第8回情報論的学習理論ワークショップ予稿集

      Pages: 63-68

    • Related Report
      2005 Annual Research Report
  • [Journal Article] ニューロ多様体の特異構造と無限の局所自由度2005

    • Author(s)
      福水 健次
    • Journal Title

      数理科学 2005年3月号

      Pages: 16-22

    • Related Report
      2004 Annual Research Report
  • [Journal Article] Statistical Learning with Kernel Covariance Operators2005

    • Author(s)
      Kenji Fukumizu
    • Journal Title

      統計数理研究所 研究教育活動報告 21 International Symposium on the Art of Statistical Metaware

      Pages: 179-192

    • Related Report
      2004 Annual Research Report
  • [Journal Article] 特異モデルの学習理論2004

    • Author(s)
      渡邊 澄夫
    • Journal Title

      電子情報通信学会論文誌 J88-DII No.2

      Pages: 159-169

    • Related Report
      2004 Annual Research Report
  • [Journal Article] Over-fitting behavior of Gaussian unit under Gaussian noise2004

    • Author(s)
      Katsuyuki Hagiwara
    • Journal Title

      Proceedings of International Joint Conference on Neural Networks Vol.2

      Pages: 997-1002

    • Related Report
      2004 Annual Research Report
  • [Journal Article] 混合von Mises-Fisher分布に対する変分法的ベイズ推定2004

    • Author(s)
      田辺 昭博
    • Journal Title

      2004年情報論的学習理論ワークショップ予稿集

      Pages: 46-51

    • Related Report
      2004 Annual Research Report
  • [Journal Article] Two examples of semigroup kernels on measures2004

    • Author(s)
      Marco Cuturi
    • Journal Title

      統計数理研究所 研究教育活動報告 21 International Symposium on the Art of Statistical Metaware

      Pages: 320-321

    • Related Report
      2004 Annual Research Report
  • [Book] 学習システムの理論と実現2005

    • Author(s)
      渡邊 澄夫
    • Total Pages
      195
    • Publisher
      森北出版
    • Related Report
      2005 Annual Research Report
  • [Book] 特異モデルの統計学2004

    • Author(s)
      福水 健次
    • Total Pages
      274
    • Publisher
      岩波書店
    • Related Report
      2004 Annual Research Report
  • [Publications] Kenji Fukumizu: "Dimensionality Reduction for Supervised Learning with Reproducing Kernel Hilbert Spaces"Journal of Machine Learning Research. Vol.5. 73-99 (2004)

    • Related Report
      2003 Annual Research Report
  • [Publications] Kenji Fukumizu: "Kernel Dimensionality Reduction for Supervised Learning"Advances in Neural Information Processing Systems. 16(印刷中). (2004)

    • Related Report
      2003 Annual Research Report
  • [Publications] Kenji Fukumizu: "A Kernel Method for hierarchical and non-hierarchical clustering"統計数理研究所 研究教育活動報告17 Science of Modeling. 416-417 (2003)

    • Related Report
      2003 Annual Research Report
  • [Publications] 福水 健次: "特異モデルにおける統計的推測-接錐によるアプローチ-"日本神経回路学会誌. 10巻4号. 201-210 (2003)

    • Related Report
      2003 Annual Research Report
  • [Publications] 福水 健次: "カーネルヒルベルト空間を用いた回帰問題における特徴抽出"第6回情報論的学習理論ワークショップ予稿集. 241-246 (2003)

    • Related Report
      2003 Annual Research Report
  • [Publications] 福水 健次: "再生核ヒルベルト空間を用いた回帰問題における次元削減法"日本数学会2003年秋季総合分科会 統計数学分科会講演アブストラクト. 137-150 (2003)

    • Related Report
      2003 Annual Research Report

URL: 

Published: 2003-04-01   Modified: 2016-04-21  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi