• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

学習理論における特異性とその代数幾何学的性質およびその応用

研究課題

研究課題/領域番号 16700218
研究種目

若手研究(B)

配分区分補助金
研究分野 感性情報学・ソフトコンピューティング
研究機関東京工業大学 (2006)
上智大学 (2004-2005)

研究代表者

青柳 美輝  東京工業大学, 精密工学研究所, 研究員 (90338434)

研究期間 (年度) 2004 – 2006
研究課題ステータス 完了 (2006年度)
配分額 *注記
2,700千円 (直接経費: 2,700千円)
2006年度: 800千円 (直接経費: 800千円)
2005年度: 800千円 (直接経費: 800千円)
2004年度: 1,100千円 (直接経費: 1,100千円)
キーワード確率的複雑さ / 特異モデル / 特異点解消 / ゼータ関数 / 階層モデル / ベイズ推定 / 特異的モデル / 学習モデルのゼータ関数
研究概要

学習システムの目的は,たとえば,画像認識,音声認識,遺伝子解析,データマイニンである.このような学習データは,正規分布に従っているような単純なものではなく,非常に複雑な構造をもっている.したがって,このような目的のために用いられる学習モデルは十分複雑なものを考えなくてはならない.現在,そのようなデータを扱える学習モデルとして,階層構造,内部構造を持つものが応用されている.これらのモデルは,パラメータを変えることできわめて多くの確率分布となりえることが証明されている.このようなモデルを特異モデルという.渡邊澄夫教授は,特異モデルに関して,ベイズ推測において重要な役割を果たす確率的複雑さが,特異点解消により構成された方法論と数理的に緊密な関係を持つことを明らかにした.しかし,実はこのような数理の確立にもかかわらず,計算を行うことは非常に困難であった.特異点解消自身の困難性や,特異点の非孤立性,ニュートン図形の退化などが理由である.今年度は,これらの困難性を個別のモデルに対して工夫を行いながら克服し,昨年度よりさらに一般化した3層ニューラルネットワークの場合について,確率的複雑さの厳密な漸近展開を与えた.さらにその方法を混合正規分布にも応用した.方法の概略は昨年度と同様recursive blowing-up及びトーリック多様体による特異点を帰納的に解消する方法である.この方法で上限のみしか得られていなかった学習モデルのゼータ関数の最大の極およびその位数の値を与え,汎化誤差の漸近展開を明らかにした.今後は,スピンモデルについても考察していきたい。

報告書

(3件)
  • 2006 実績報告書
  • 2005 実績報告書
  • 2004 実績報告書
  • 研究成果

    (20件)

すべて 2006 2005 2004 その他

すべて 雑誌論文 (18件) 図書 (2件)

  • [雑誌論文] Generalization Error of Three Layered Learning Model in Bayesian Estimation2006

    • 著者名/発表者名
      Miki Aoyagi, Sumio Watanabe
    • 雑誌名

      Proceedings of the Second IASTED International Conference on Computational Intelligence 2

      ページ: 405-410

    • 関連する報告書
      2006 実績報告書
  • [雑誌論文] Eye Direction by Stereo Image Processing using Corneal Reflection on an Iris2006

    • 著者名/発表者名
      Kumiko Tsuji, Miki Aoyagi
    • 雑誌名

      Proceedings of the Second IASTED International Conference on Computational Intelligence 2

      ページ: 355-360

    • 関連する報告書
      2006 実績報告書
  • [雑誌論文] Stochastic Complexities of Reduced Rank Regression in Bayesian Estimation2005

    • 著者名/発表者名
      Miki Aoyagi, Sumio Watanabe
    • 雑誌名

      Neural Networks 18

      ページ: 924-933

    • 関連する報告書
      2005 実績報告書
  • [雑誌論文] 特異点解消とニューラルネットワークのベイズ推定における汎化誤差2005

    • 著者名/発表者名
      Miki Aoyagi, Sumio Watanabe
    • 雑誌名

      電子情報通信学会和文論文誌DII J88.10

      ページ: 2112-2124

    • NAID

      110003224123

    • 関連する報告書
      2005 実績報告書
  • [雑誌論文] The maximum pole of the zeta function for learning theory2005

    • 著者名/発表者名
      Miki Aoyagi, Sumio Watanabe
    • 雑誌名

      Finite of Infinite Dimensional Complex Analysis and Applications

      ページ: 17-24

    • 関連する報告書
      2005 実績報告書
  • [雑誌論文] A modified genetic algorithm for feature clustering2005

    • 著者名/発表者名
      Miki Aoyagi, Kumiko Tsuji
    • 雑誌名

      Finite or Infinite Dimensional complex Analysis and Applications

      ページ: 9-16

    • 関連する報告書
      2005 実績報告書
  • [雑誌論文] The Generalization Error of Reduced Rank Regression in Bayesian Estimation2004

    • 著者名/発表者名
      Miki Aoyagi, Sumio Watanabe
    • 雑誌名

      International Symposium on Information Theory and its Applications

      ページ: 1068-1073

    • 関連する報告書
      2004 実績報告書
  • [雑誌論文] A modified genetic algorithm for image segmentation based on feature clustering2004

    • 著者名/発表者名
      Miki Aoyagi, Kumiko Tsuji
    • 雑誌名

      International Symposium on Information Theory and its Applications

      ページ: 1074-1079

    • 関連する報告書
      2004 実績報告書
  • [雑誌論文] Stochastic Complexity and Newton Diagram2004

    • 著者名/発表者名
      Keisuke Yamazaki, Miki Aoyagi, Sumio Watanabe
    • 雑誌名

      International Symposium on Information Theory and its Applications

      ページ: 105-110

    • 関連する報告書
      2004 実績報告書
  • [雑誌論文] The Generalization Error of Reduced Rank Regression Models and Resolution of Singularities2004

    • 著者名/発表者名
      Miki Aoyagi, Sumio Watanabe
    • 雑誌名

      Technical report of IEICE, NC2004

      ページ: 13-18

    • NAID

      110003232648

    • 関連する報告書
      2004 実績報告書
  • [雑誌論文] Kullback Information of Normal Mixture is not an Analytic Function2004

    • 著者名/発表者名
      Sumio Watanabe, Keisuke Yamazaki, Miki Aoyagi
    • 雑誌名

      Technical report of IEICE, NC2004

      ページ: 41-46

    • NAID

      110003232653

    • 関連する報告書
      2004 実績報告書
  • [雑誌論文] Resolution of Singularities and the Generalization Error with Bayesian Estimation for Layered Neural Network

    • 著者名/発表者名
      Miki Aoyagi, Sumio Watanabe
    • 雑誌名

      Systems and Computers in Japan (In press)

    • NAID

      110003224123

    • 関連する報告書
      2006 実績報告書
  • [雑誌論文] The zeta function of learning theory and generalization error of three layered neural perceptron

    • 著者名/発表者名
      Miki Aoyagi
    • 雑誌名

      数理解析研究所講究録,Recent Topics on Real and Complex Singularities (In press)

    • 関連する報告書
      2006 実績報告書
  • [雑誌論文] The zeta function for learning theory and resolution of Singularities

    • 著者名/発表者名
      Miki Aoyagi, Sumio Watanabe
    • 雑誌名

      Proceedings of the 5th ISAAC Congress 5(In press)

    • 関連する報告書
      2006 実績報告書
  • [雑誌論文] Eye direction by stereo image processing

    • 著者名/発表者名
      Kumiko Tsuji, Miki Aoyagi
    • 雑誌名

      Proceedings of the 5th ISAAC Congress 5(In press)

    • 関連する報告書
      2006 実績報告書
  • [雑誌論文] The zeta function for learning theory and resolution of singularities

    • 著者名/発表者名
      Miki Aoyagi, Sumio Watanabe
    • 雑誌名

      Proceedings of the 5th ISAAC Congress (印刷中)

    • 関連する報告書
      2005 実績報告書
  • [雑誌論文] Eye direction by stereo image processing.

    • 著者名/発表者名
      Miki Aoyagi, Kumiko Tsuji
    • 雑誌名

      Proceedings of the 5th ISAAC Congress, (印刷中)

    • 関連する報告書
      2005 実績報告書
  • [雑誌論文] Stochastic Complexities of Reduced Rank Regression in Bayesian Estimation

    • 著者名/発表者名
      Miki Aoyagi, Sumio Watanabe
    • 雑誌名

      Neural Network (To appear)

    • 関連する報告書
      2004 実績報告書
  • [図書] 学習システムの理論と実現2005

    • 著者名/発表者名
      青柳美輝, 赤穂昭太郎, 岡田真人, 萩原克幸, 福水健次, 本村陽一, 渡辺澄夫
    • 総ページ数
      195
    • 出版者
      森北出版
    • 関連する報告書
      2005 実績報告書
  • [図書] 学習システムの理論と実現2005

    • 著者名/発表者名
      青柳美輝, 赤穂昭太郎, 岡田真人, 萩原克幸, 福水健次, 本村陽一, 渡辺澄夫
    • 出版者
      森北出版(印刷中)
    • 関連する報告書
      2004 実績報告書

URL: 

公開日: 2004-04-01   更新日: 2016-04-21  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi