• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2004 年度 研究成果報告書概要

学習族の理論-1種類の学習から無限種類の学習へ-

研究課題

研究課題/領域番号 14380158
研究種目

基盤研究(B)

配分区分補助金
応募区分一般
研究分野 知能情報学
研究機関東京工業大学

研究代表者

小川 英光  東京工業大学, 大学院・情報理工学研究科, 教授 (50016630)

研究分担者 熊沢 逸夫  東京工業大学, 大学院・理工学研究科, 教授 (70186469)
研究期間 (年度) 2002 – 2004
キーワード教師付き学習 / 汎化能力 / 射影学習 / 部分射影学習 / 射影学習族 / SL射影学習 / 能動学習 / 部分空間情報量基準
研究概要

教師付き学習の研究は、従来、誤差逆伝搬法や射影学習など個々の学習に関するものが中心であった。しかし、このような個別の学習理論だけでは、学習の問題を深く理解することはできない。たとえば、誤差逆伝搬法は丸暗記能力だけを要請するにも関わらず、高い汎化能力を獲得できることがある。このような現象を理解していくためには、個別学習理論から、無限に多くの種類の学習を同時に扱う学習族の理論へと進む必要がある。当研究代表者は、訓練データの中の標本点が固定されている場合に、SL射影学習という概念を導入することにより、無限種類の学習を含む学習族の理論を世界に先駆けて構築してきた。そして、記憶学習が時によって高い汎化能力を獲得できる理由等、多くの問題を理論的に解明してきた。しかし、追加学習や能動学習のように、標本点が変化していく場合には、このSL射影学習の概念は必ずしも使いやすいものではなかった。
この理論を、標本点が変化していく場合に対応できるようにするために、本年度は次の研究を行った。まず、異なる標本点に対して「同じ学習である」という概念を明確に定義した。ところで、当研究代表者のグループでSL射影学習の概念を導入する際に、実は3種類の方法を考えてきた。そして、標本点が固定されている場合に自然なものとして、現在使われているSL射影学習の定義を採用したのである。そこで、この「同じ学習」という立場から3種類の定義を見直した結果、標本点が変化していく場合には、SL射影学習の定義よりも、T作用素と呼ばれる作用素を介する定義の方が有効であることを明らかにした。また、T作用素全体がつくる空間の構造も解明していった。また,既に学習が進んでいる段階で、今までの学習結果を活かしながら、次の最適な標本点を決めていく追加能動学習の問題を解明していった。

  • 研究成果

    (12件)

すべて 2004

すべて 雑誌論文 (12件)

  • [雑誌論文] Perturbation analysis of a generalization error estimator2004

    • 著者名/発表者名
      M.Sugiyama, Y.Okabe, H.Ogawa
    • 雑誌名

      Neural Information Processing 2・2

      ページ: 33-38

    • 説明
      「研究成果報告書概要(和文)」より
  • [雑誌論文] Pseudoframes for subspaces with applications2004

    • 著者名/発表者名
      S.Li, H.Ogawa
    • 雑誌名

      The Journal of Fourier Analysis and Applications 10・4

      ページ: 409-431

    • 説明
      「研究成果報告書概要(和文)」より
  • [雑誌論文] Time-oriented hierarchical method for computation of principal components using subspace learning algorithm2004

    • 著者名/発表者名
      M.Jankovic, H.Ogawa
    • 雑誌名

      International Journal of Neural Systems 14・5

      ページ: 313-324

    • 説明
      「研究成果報告書概要(和文)」より
  • [雑誌論文] Partial projection filter for signal restoration in the presence of signal space noise2004

    • 著者名/発表者名
      A.Syed, H.Ogawa
    • 雑誌名

      IEICE Trans.Information and Systems E87-D・12

      ページ: 2828-2836

    • 説明
      「研究成果報告書概要(和文)」より
  • [雑誌論文] Characterization and implementation of partial projection filter in the presence of signal space noise2004

    • 著者名/発表者名
      A.Syed, H.Ogawa
    • 雑誌名

      IEICE Trans.Information and Systems E87-D・12

      ページ: 2837-2844

    • 説明
      「研究成果報告書概要(和文)」より
  • [雑誌論文] Trading variance reduction with unbiasedness : The regularized subspace information criterion for robust model selection in kernel regression2004

    • 著者名/発表者名
      M.Sugiyama, M.Kawanabe, K.-R.Muller
    • 雑誌名

      Neural Computation 16・5

      ページ: 1077-1104

    • 説明
      「研究成果報告書概要(和文)」より
  • [雑誌論文] Perturbation analysis of a generalization error estimator2004

    • 著者名/発表者名
      M.Sugiyama, Y.Okabe, H.Ogawa
    • 雑誌名

      Neural Information Processing 2(2)

      ページ: 33-38

    • 説明
      「研究成果報告書概要(欧文)」より
  • [雑誌論文] Pseudoframes for subspaces with applications2004

    • 著者名/発表者名
      S.Li, H.Ogawa
    • 雑誌名

      The Journal of Fourier Analysis and Applications 10(4)

      ページ: 409-431

    • 説明
      「研究成果報告書概要(欧文)」より
  • [雑誌論文] Time-oriented hierarchical method for computation of principal components using subspace learning algorithm2004

    • 著者名/発表者名
      M.Jankovic, H.Ogawa
    • 雑誌名

      International Journal of Neural Systems 14(5)

      ページ: 313-324

    • 説明
      「研究成果報告書概要(欧文)」より
  • [雑誌論文] Partial projection filter for signal restoration in the presence of signal space noise2004

    • 著者名/発表者名
      A.Syed, H.Ogawa
    • 雑誌名

      IEICE Trans.Information and Systems E87-D(12)

      ページ: 2828-2836

    • 説明
      「研究成果報告書概要(欧文)」より
  • [雑誌論文] Characterization and implementation of partial projection filter in the presence of signal space noise2004

    • 著者名/発表者名
      A.Syed, H.Ogawa
    • 雑誌名

      IEICE Trans.Information and Systems E87-D(12)

      ページ: 2837-2844

    • 説明
      「研究成果報告書概要(欧文)」より
  • [雑誌論文] Trading variance reduction with unbiasedness : The regularized subspace information criterion for robust model selection in kernel regression2004

    • 著者名/発表者名
      M.Sugiyama, M.Kawanabe, K.-R.Muller
    • 雑誌名

      Neural Computation 16(59

      ページ: 1077-1104

    • 説明
      「研究成果報告書概要(欧文)」より

URL: 

公開日: 2006-07-11  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi