• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

理論統計学と機械学習理論の統合による新しいモデル選択規準の開発

Research Project

Project/Area Number 05J10018
Research Category

Grant-in-Aid for JSPS Fellows

Allocation TypeSingle-year Grants
Section国内
Research Field Statistical science
Research InstitutionThe Institute of Statistical Mathematics

Principal Investigator

小林 景  The Institute of Statistical Mathematics, 数理・推論研究系, 特別研究員(PD)

Project Period (FY) 2005 – 2007
Project Status Completed (Fiscal Year 2007)
Budget Amount *help
¥3,400,000 (Direct Cost: ¥3,400,000)
Fiscal Year 2007: ¥1,100,000 (Direct Cost: ¥1,100,000)
Fiscal Year 2006: ¥1,100,000 (Direct Cost: ¥1,100,000)
Fiscal Year 2005: ¥1,200,000 (Direct Cost: ¥1,200,000)
Keywordsカーネルマシン / 情報量規準 / モデル選択規準 / ベイズ予測 / ランダム行列理論 / モデル選択
Research Abstract

線形回帰予測問題において,Kullback-Leiblerダイバージェンスを用いて,一様事前分布によるベイズ予測を優越し,ミニマクスとなる縮小事前分布を提案した論文を修正投稿し,採用された.また,本論文で提案されたスタイン型の縮小事前分布は,高次元であるほどリスクが大きく改善されることを実験的に確かめた.これにより,本手法がカーネルマシン等の高次元ヒルベルト空間の統計モデルに適用される可能性が高いことがわかった.一方,4月には1昨年から続くカリフォルニア大学バークレー校での海外長期研究期間の最終月として,これまで,バークレーでの講義,セミナー,共同研究等で得た知識をまとめた.特にここで得た大規模ランダム行列の知識および,統計数理研究所で数理物理学の研究者らとのセミナーで得た結果をもとに,カーネルグラム行列の主要な近似手法であるNystrom近似の計算量と近似精度の最適化手法を提案した.また,PAC学習や経験過程の手法を用いて,その手法における近似の一致性を示した.本研究者らが提案したカーネル正則化情報量規準(KRIC)は,サポートベクターマシンやカーネルロジスッテイク回帰などのカーネルマシンのカーネルや正則化パラメータの設定に用いることができるが,今回提案したNystrom近似の改良を用い得れば,KRICを効率よく計算することもでき,カーネルマシンのモデル選択における大規模行列計算の問題を解決する.本研究の内容は,9月の統計学会連合大会において発表された.

Report

(3 results)
  • 2007 Annual Research Report
  • 2006 Annual Research Report
  • 2005 Annual Research Report
  • Research Products

    (4 results)

All 2007 2006

All Journal Article (3 results) Presentation (1 results)

  • [Journal Article] Parallel matching for ranking all teams in a tournament2006

    • Author(s)
      Kobayashi, K., Kawasaki, H., Takemura, A.
    • Journal Title

      Advances in Applied Probability 38・3

      Pages: 804-826

    • Related Report
      2006 Annual Research Report
  • [Journal Article] Information criteria for support vector machines2006

    • Author(s)
      Kobayashi, K., Komaki, F.
    • Journal Title

      IEEE Transactions on Neural Networks 17・3

      Pages: 571-577

    • Related Report
      2006 Annual Research Report
  • [Journal Article] Information Criteria for Support Vector Machines2006

    • Author(s)
      Kei Kobayashi, Fumiyasu Komaki
    • Journal Title

      IEEE Transactions on Neural Networks 未定(to appear)

    • Related Report
      2005 Annual Research Report
  • [Presentation] 大規模ランダム行列とモデル選択2007

    • Author(s)
      小林景
    • Organizer
      日本統計関連学会連合大会
    • Place of Presentation
      神戸大学
    • Year and Date
      2007-09-08
    • Related Report
      2007 Annual Research Report

URL: 

Published: 2005-04-01   Modified: 2024-03-26  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi